Tvůrci schvalovací brány Squidbrake zveřejnili test založený na dvanácti veřejně popsaných incidentech AI agentů. Jejich pravidla při opakování škodlivých kroků tři akce zablokovala a jedenáct pozastavila pro člověka. Jednu z patnácti akcí nezastavila: skrytou kopii e-mailu přidanou uvnitř škodlivého MCP serveru až po schválení viditelného požadavku.

Součástí je také srovnání 62 vícekrokových relací s automatickým spouštěním, schvalováním všeho a seznamem povolených nástrojů. Projekt zpřístupnil skripty a výslovně uvádí, že část příkazů rekonstruoval a většinu relací sám napsal. Nejde tedy o nezávislý audit ani opakování útoků v původních systémech. Výsledek navíc předpokládá člověka, který každý škodlivý krok odmítne. Pozastavení pro kontrolu proto nelze počítat jako automatické rozpoznání úmyslu ani záruku, že skutečný uživatel chybu neschválí.

Radyz

Radyz publikuje komentáře a praktické texty o AI nástrojích, ChatGPT, Claude a dění kolem OpenAI a Anthropicu. Na webu se soustředí na srozumitelný výklad, vlastní zkušenost a důraz na to, co je pro čtenáře skutečně užitečné.