開發(fā)者說|Aux-Think:為什么測試時推理反而讓機器人「誤入歧途」?
論文題目:
Aux-Think: Exploring Reasoning Strategies for Data-Efficient Vision-Language Navigation
? 論文鏈接:
https://arxiv.org/abs/2505.11886
? 項目主頁:
https://horizonrobotics.github.io/robot_lab/aux-think/
視覺語言導(dǎo)航 (VLN) 的推理策略
在視覺語言導(dǎo)航 (VLN) 任務(wù)中,機器人需要根據(jù)自然語言指令在復(fù)雜環(huán)境中做出實時決策。雖然推理在許多任務(wù)中已有廣泛應(yīng)用,但在VLN任務(wù)中,推理的作用一直未被充分探討。
我們是第一個系統(tǒng)性研究推理策略對VLN任務(wù)影響的團隊,發(fā)現(xiàn)現(xiàn)有的推理策略 (Pre-Think和Post-Think) 在測試階段反而導(dǎo)致了較差的表現(xiàn),讓機器人導(dǎo)航失敗。與此不同的是,我們提出的Aux-Think框架通過創(chuàng)新設(shè)計有效解決了這一問題。
Aux-Think優(yōu)于Pre-Think和Post-Think其它推理策略
Aux-Think在數(shù)據(jù)效率與成功率之間達到帕累托最優(yōu)
測試階段推理的挑戰(zhàn)
想象一名司機在開車時不斷分析路況,并頻繁回顧交通規(guī)則后才做決策。雖然這有助于理解環(huán)境,但當(dāng)遇到陌生或復(fù)雜情況時,這種“思考過度”的方式反而容易因推理偏差而判斷失誤。
在視覺語言導(dǎo)航任務(wù)中,推理就像回顧交通規(guī)則,決策則對應(yīng)真實的駕駛操作。推理本意是為了幫助機器人理解任務(wù),但一旦進入訓(xùn)練中未見過的狀態(tài),思維鏈便可能產(chǎn)生幻覺。尤其是在不熟悉的環(huán)境中,過度依賴推理不僅無法提升決策,反而干擾行動、累積誤差,最終導(dǎo)致機器人“誤入歧途”。這種“推理崩塌”現(xiàn)象正是Aux-Think希望解決的關(guān)鍵問題。
長推理鏈的少量錯誤(標(biāo)紅),反而導(dǎo)致決策錯誤
Aux-Think給出的新答案
為了應(yīng)對上述問題,我們提出了Aux-Think,一種全新的推理訓(xùn)練框架。Aux-Think的核心思想是:在訓(xùn)練階段通過推理指導(dǎo)模型的學(xué)習(xí),而在測試階段,機器人直接依賴訓(xùn)練過程中學(xué)到的知識進行決策,不再進行推理生成。具體來說,Aux-Think將推理和行動分開進行:
訓(xùn)練階段:通過引導(dǎo)模型學(xué)習(xí)推理任務(wù),幫助其內(nèi)化推理模式。
測試階段:直接根據(jù)訓(xùn)練中學(xué)到的決策知識進行行動預(yù)測,不再進行額外的推理生成。
這種設(shè)計有效避免了測試階段推理帶來的錯誤和不穩(wěn)定性,確保機器人能更加專注于執(zhí)行任務(wù),減少了推理過程中可能引入的負(fù)面影響。
上圖中展示的是一個導(dǎo)航任務(wù):“穿過房間,走到右側(cè)的拱門并停在玻璃桌旁”。三種策略面對相同場景做出了不同反應(yīng):Pre-Think模型在行動前試圖推理整條路徑,認(rèn)為應(yīng)該“前進75cm”,但忽視了當(dāng)前觀察并未穿過房間,導(dǎo)致偏離目標(biāo);Post-Think模型在執(zhí)行動作后才分析環(huán)境,發(fā)現(xiàn)沒有看到拱門,但錯誤已發(fā)生,只能繼續(xù)試探,繼續(xù)偏航;Aux-Think則在訓(xùn)練時學(xué)習(xí)推理邏輯,測試時直接基于當(dāng)前觀察判斷“右轉(zhuǎn)15度”,準(zhǔn)確識別拱門位置,成功完成導(dǎo)航任務(wù)。
實驗結(jié)果
大量實驗表明,Aux-Think在數(shù)據(jù)效率與導(dǎo)航表現(xiàn)方面優(yōu)于當(dāng)前領(lǐng)先方法。盡管訓(xùn)練數(shù)據(jù)較少,Aux-Think仍在多個VLN基準(zhǔn)上取得了單目 (Monocular) 方法中的最高成功率。通過僅在訓(xùn)練階段內(nèi)化推理能力,Aux-Think有效緩解了測試階段的推理幻覺與錯誤傳播,在動態(tài)、長程導(dǎo)航任務(wù)中展現(xiàn)出更強的泛化能力與穩(wěn)定性。
R2R-CE上的指標(biāo):Aux-Think在視覺語言導(dǎo)航任務(wù)的R2R驗證集 (Val-Unseen) 上取得領(lǐng)先的成功率 (SR) ,即使使用的訓(xùn)練數(shù)據(jù)更少,也能超越多種現(xiàn)有方法。
RxR-CE上的指標(biāo):RxR比R2R更大、更復(fù)雜,Aux-Think在RxR驗證集上依然以更少數(shù)據(jù)實現(xiàn)更高成功率 (SR) ,展現(xiàn)出優(yōu)越的泛化能力。
總結(jié)與展望
Aux-Think為解決測試階段推理引發(fā)的導(dǎo)航問題提供了新的思路。通過在訓(xùn)練階段引入推理指導(dǎo),在測試階段去除推理負(fù)擔(dān),Aux-Think能夠讓機器人更加專注于任務(wù)執(zhí)行,從而提高其導(dǎo)航穩(wěn)定性和準(zhǔn)確性。
這一突破性進展將為機器人在實際應(yīng)用中的表現(xiàn)奠定更為堅實的基礎(chǔ),也為具身推理策略提供了重要啟示。
*博客內(nèi)容為網(wǎng)友個人發(fā)布,僅代表博主個人觀點,如有侵權(quán)請聯(lián)系工作人員刪除。