Bezpečnostní firma Thinkst představila Agent Provocateur, novou podobu svých Canary nástrojů pro odhalování AI agentů pohybujících se v síti. Služba se vydává za užitečný webserver a agentovi nabídne pomoc s jeho cílem. Pokud agent začne s nastraženou službou komunikovat, bezpečnostní tým dostane upozornění a může sledovat další kroky. Thinkst popisuje, že agenti jsou při práci s daty náchylní k sociálnímu inženýrství, protože výstup z okolí přímo vstupuje do jejich rozhodování. Agent Provocateur může klást doplňující otázky a pokusit se útočníka udržet v interakci, například žádostí o informace o plánovaných akcích nebo systému. Firma uvádí, že aktualizaci postupně nasazuje zákazníkům do Consoles a Canary prostředí. Zároveň upozorňuje, že nastražený modul nenahrazuje další bezpečnostní kontroly a část odpovědí agentů může být smyšlená.

Radyz

Radyz publikuje komentáře a praktické texty o AI nástrojích, ChatGPT, Claude a dění kolem OpenAI a Anthropicu. Na webu se soustředí na srozumitelný výklad, vlastní zkušenost a důraz na to, co je pro čtenáře skutečně užitečné.