BadWAM：世界-动作模型"想"对但"做"错时

世界-动作模型（WAM）正成为具身控制的基础：它们不仅预测动作，还学习将动作生成与未来世界预测相结合的表示。这种耦合通常被视为鲁棒性、可解释性和安全性的来源，因为机器人动作原则上可以根据想象未来进行检验。然而本研究揭示这一假设存在脆弱性。我们提出BadWAM，这是一个用于建模和评估"世界-动作漂移攻击"的统一框架——这是一种新型的WAM特定对抗攻击，利用微小视觉...

查看原文