Výzkumníci z Binghamton University popsali útok MuTRAP, při němž předem kompromitovaný jazykový model změní plán robota po výskytu skrytého spouštěcího výrazu. V ukázce měl mobilní robot napodobit krájení plastového ovoce, ale upravený plán jej nasměroval k modelu ruky. Nešlo o skutečné zranění člověka ani důkaz, že libovolný běžný chatbot stejně reaguje na stejné slovo.
Tým zároveň představil obranu PROTEA, která vyhodnocuje bezpečnost jednotlivých kroků s ohledem na průběžně se měnící prostředí. Má rozpoznat i nebezpečnou kombinaci zdánlivě neškodných úkonů, například vyhození krabice obsahující důležité léky. Výsledky upozorňují na rizika převzatých modelů a potřebu samostatné kontroly plánů před fyzickou akcí. Autoři výzkum prezentovali na konferenci IROS 2026.
