11 月 25 日消息，賓夕法尼亞大學的研究人員發現，一系列人工智能增強型機器人系統存在嚴重的漏洞，容易受到黑客攻擊和控制。

IEEE Spectrum 的一份報告引用了令人震驚的例子，例如被黑客攻擊的機器狗將火焰噴射器對準主人、引導炸彈到最具破壞性的地點，以及自動駕駛汽車故意撞向行人。

據IT之家了解，賓夕法尼亞工程學院的研究人員將他們開發的基于 LLM 的機器人攻擊技術稱為 RoboPAIR。來自三個不同機器人供應商的設備都受到了 RoboPAIR 黑客攻擊：英偉達支持的海豚 LLM、Clearpath Robotics Jackal UGV 和 Unitree Robotics Go2 四足機器人。研究人員表示，RoboPAIR 在黑客攻擊這些設備方面取得了 100% 的成功率。

賓夕法尼亞工程學院電氣系統工程、計算機與信息科學、機械工程與應用力學系運輸學教授喬治?帕帕斯（George Pappas）警告稱：“我們的研究表明，目前，大型語言模型與物理世界集成時還不夠安全。”

其他研究人員指出，黑客攻擊人工智能控制的機器人“驚人地容易”。他們解釋說，RoboPAIR 通過配備目標機器人的應用程序接口（API）來工作，這樣攻擊者就可以以一種設備目標能夠作為代碼執行的方式來格式化提示詞（prompts）。

研究論文得出結論，迫切需要實施防御措施來物理限制 LLM 控制的機器人。