文章鏈接：https://arxiv.org/pdf/2410.15994
項目鏈接：https://yy-gx.github.io/ARCADE/

亮點直擊

• 引入了一個從單一增強現實（AR）捕獲的演示生成大規模演示的新框架。
• 在此框架內，開發了兩項創新技術：關鍵姿勢檢測器和自動驗證，旨在通過用戶提供的一個AR演示生成高質量的演示。
• 在一個物理的Fetch機器人上對ARCADE進行了三項操作任務的評估。通過ARCADE生成的演示訓練出的BC策略在所有任務中表現出色。在更復雜的倒水任務中的進一步驗證顯示機器人達到了80%的成功率，突顯了ARCADE在家庭環境中實現現實機器人輔助的潛力。

總結速覽

解決的問題:
機器人模仿學習面臨兩個主要的可擴展性挑戰：非用戶友好的演示收集方式和大量時間積累足夠的演示樣本以進行有效訓練。

提出的方案:
引入了ARCADE框架，結合增強現實（AR）和自動生成合成演示的能力，簡化了演示收集并減少用戶的努力和時間。

應用的技術:

• 利用AR技術，使用戶可以像執行日常任務一樣自然地收集演示數據。
• 從單個人類演示中自動生成額外的合成演示，減少了用戶手動收集演示的需求。

達到的效果:
在 Fetch 機器人上的三項任務（3-Waypoints-Reach、推送和抓取-放置）中，使用經典的模仿學習算法行為克隆（BC）快速訓練政策并取得良好表現。此外，在實際的倒水任務中，ARCADE達到了80%的成功率。

方法

框架概述

ARCADE框架，以一種用戶友好且可擴展的方式生成演示，如下圖1所示。后面詳細說明了基于AR的初始用戶演示（圖1A）。接下來，描述了生成演示的方法（圖1B）。然后詳細說明了用戶驗證生成的演示的方法（圖1C）。最后，介紹了一種自動驗證方法，用于快速擴展演示集的規模（圖1D）。

AR輔助演示收集

為了收集用戶的機器人手臂軌跡演示，使用了Microsoft HoloLens 2，這是一種增強現實頭戴顯示器（ARHMD）。在演示收集過程中（下圖2），用戶佩戴ARHMD，該設備在用戶上方疊加了機器人的數字孿生體，并提供了從機器人視角的自我中心視圖。該設置為用戶提供了機器人物體運動的實時視覺反饋。對于本文的任務和學習算法，機器人的末端執行器必須與用戶的手對齊并跟蹤其動作。通過當前的逆運動學（IK）算法來實現這一目標，該算法根據演示者的手位置計算機器人的關節角度。用戶食指和拇指之間的距離用于指示夾具的開/合狀態，以執行拾取或放置物體的操作。當在演示過程中計算關節角度、末端執行器位置以及拾取或放置動作時，這些信息會被記錄在另一臺機器上，并通過Unity Robotics Hub的ROS-TCP-Endpoint和ROS-TCP-Connector從HoloLens傳輸。

演示生成

采樣航點和檢測到的關鍵航點的組合集構成了航點集，記為W。為了到達W中的這些航點，使用MoveIt的內置運動規劃器和逆運動學（IK），這通常會產生多樣化的軌跡，從而涵蓋更廣的狀態空間。

用戶驗證

• 由逆運動學（IK）不穩定性引發的不自然運動；
• 潛在的危險行為（如機器人手臂過于靠近桌面）；
• 用戶可能認為不理想的行為（例如一些用戶可能偏好較短的軌跡，而另一些用戶可能更看重人類化的運動）。

自我驗證

行為克隆（BC）的有效訓練通常需要大量的演示，通常以數百計。即使用戶角色轉變為驗證生成的演示，BC所需的演示數量仍可能令人望而生畏。因此，設計了一種自動方法，用于擴展生成演示的驗證規模，用戶只需觀察并批準一小部分（例如10到15個候選演示），系統即可基于用戶批準的特征集自動生成并自我驗證候選演示。

系統驗證

本文使用真實的Fetch機器人對框架進行了評估。首先，在三個典型任務上測試了性能：三點到達、推動和抓取與放置（如下圖4所示）。選擇這些任務是因為它們代表了基本的操作行為，結合起來可以完成各種復雜的家務活動。在第四個更復雜的倒水任務中提供了這一點的示例。

引入了任務完成誤差（TCE）度量標準，以米為單位，用來評估BC（行為克隆）在三個典型任務中的表現。對于三點到達任務，通過評估過程中到三個路徑點的最小距離的平均值來計算此指標。對于推動和抓取與放置任務，它衡量物體最終位置與目標點的距離。

為了評估 ARCADE 框架在三個典型任務上的性能，比較了四種不同的策略：

評估方法

對于每個任務，執行這四種基于行為克隆（BC）學習的策略十次，報告每種策略的任務完成誤差（TCE）的均值和標準差。以下是具體的評估方法：

• 任務完成誤差 (TCE):該指標以米為單位，用于評估在三個典型任務上的 BC 性能。對于 3-Waypoints-Reach 任務，TCE 通過在評估過程中對三個預定義的路標的最小距離進行平均來計算。對于 Push 和 Pick-And-Place 任務，TCE 測量物體最終位置與目標位置之間的距離。

通過這種比較，能夠評估 ARCADE 框架在不同策略下的表現及其有效性。

下圖 5 展示了在三個典型任務中四種基于行為克隆（BC）策略的結果。進行了雙向方差分析（ANOVA），以測試演示收集類型（動覺教學基線與ARCADE 框架）和演示集大小（|Ξ|= 1 或 |Ξ|= 100）是否影響 BC 策略的任務完成誤差（TCE）。結果發現這兩個因素及其交互作用對 TCE 具有顯著的主效應，所有三個任務的 p 值均小于 .001。

真實家庭任務 - 倒水

為了展示 ARCADE 在處理更復雜家庭任務方面的能力及其在家庭機器人廣泛部署中的潛力，本文引入了一個額外的任務：倒水。在此任務中，目標是讓機器人學習從用戶給出的單個演示中抓取瓶子并將水倒入杯子。該任務利用與 Pick-And-Place 任務相同的狀態和動作空間，當水成功倒入杯子時，任務被視為成功。測試使用從 ARCADE 的 Ξscale 訓練得到的 BC 策略，實現了 80% 的成功率（10 次試驗中有 8 次成功），失敗主要歸因于塑料瓶形狀的改變。下圖 6 捕捉到了機器人成功執行倒水動作的實例。

結論

ARCADE，這是一個可擴展的框架，能夠通過增強現實（AR）從單個用戶收集的演示中收集大量高質量的演示。這種方法為演示收集提供了一種用戶友好且高效的方式。在三個典型機器人任務上的實證評估證明了 ARCADE 在生成適用于有效訓練逆向學習（IL）算法的高質量演示方面的有效性。將 ARCADE 應用到真實家庭任務（倒水）中，展示了該框架促進機器人廣泛融入日常生活的潛力。

本文轉自AI生成未來 ，作者：AI生成未來

原文鏈接:???https://mp.weixin.qq.com/s/w0INUTi5TlAGp6ALnh8v0Q??