Test RoboHarm od organizace Robocurve ukázal, že některé modely ovládající robotická ramena často vykonaly nebo se pokusily vykonat nebezpečné pokyny. Zkoušky zahrnovaly například zapíchnutí předmětu do panenky, položení tlakové nádoby na hořák, zasunutí šroubováku do toustovače nebo smíchání bělidla s čpavkem. Model GPT-6 Astra se podle testu pokusil o škodlivou akci v 97 procentech relevantních pokusů a dokončil ji v 62 procentech. Claude Fable 5.1 odmítal častěji, přesto se pokusil o 80 procent zkoušek a dokončil 34 procent. Výsledky upozorňují, že bezpečnostní zásady pro textové odpovědi nemusí stačit, když model přímo převádí obraz a instrukci na pohyb stroje.

Radyz

Radyz publikuje komentáře a praktické texty o AI nástrojích, ChatGPT, Claude a dění kolem OpenAI a Anthropicu. Na webu se soustředí na srozumitelný výklad, vlastní zkušenost a důraz na to, co je pro čtenáře skutečně užitečné.