Reddit 上的討論指出,在機器人示範期間,若因遮擋導致手部追蹤出現空隙,可能會扭曲評估指標。特別是當整體高召回率掩蓋了插頭插入等關鍵階段的錯誤時,問題更為嚴重。文章引用 MEgoVista 和 HaPTIC 資料集,說明接觸階段偵測遺漏如何影響姿態誤差的計算。

此問題對機器人學習至關重要,因為關鍵操作階段的姿態標籤若不準確,即使整體追蹤指標看起來很高,仍可能導致策略表現不佳。這挑戰研究人員採用更細粒度的評估協議,將覆蓋率和特定動作階段納入考量,而不僅僅是依賴總分。

討論中提到,MEgoVista 的評估協議將遺漏的偵測視為錯誤而非排除,而 HaPTIC 在多人在場捕捉場景中未能產生有效輸出。建議的關鍵指標包括按接近、接觸和撤回階段劃分的姿態誤差和覆蓋率。

事件背景

機器人學習通常依賴透過第一人稱影片記錄的人類示範來訓練操作策略。手部追蹤演算法從這些影片中估算手部的 3D 姿態,但遮擋(例如手被物體遮住時)會導致數據暫時中斷。在接觸階段進行準確追蹤對於插電或抓取物體等任務至關重要。

社群觀察

社群討論集中在 episode 級別的聚合數據是否足以判斷缺少接觸階段標籤的 episode 是否可用。參與者爭論是否需要將連續的手部估計與物體姿態和接觸資訊結合,以全面評估插入的成功率。