Bezpečnostní firma Thinkst představila Agent Provocateur, novou podobu svých Canary nástrojů pro odhalování AI agentů pohybujících se v síti. Služba se vydává za užitečný webserver a agentovi nabídne pomoc s jeho cílem. Pokud agent začne s nastraženou službou komunikovat, bezpečnostní tým dostane upozornění a může sledovat další kroky. Thinkst popisuje, že agenti jsou při práci s daty náchylní k sociálnímu inženýrství, protože výstup z okolí přímo vstupuje do jejich rozhodování. Agent Provocateur může klást doplňující otázky a pokusit se útočníka udržet v interakci, například žádostí o informace o plánovaných akcích nebo systému. Firma uvádí, že aktualizaci postupně nasazuje zákazníkům do Consoles a Canary prostředí. Zároveň upozorňuje, že nastražený modul nenahrazuje další bezpečnostní kontroly a část odpovědí agentů může být smyšlená.
Thinkst nasazuje past, která odhaluje nebezpečné AI agenty
Bezpečnostní firma Thinkst představila Agent Provocateur, novou podobu svých Canary nástrojů pro odhalování AI agentů pohybujících se v síti. Služba se vydává za užitečný webserver a agentovi nabídne pomoc s jeho cílem. Pokud agent začne s nastraženou službou komunikovat, bezpečnostní tým dostane upozornění a může sledovat další kroky. Thinkst popisuje, že agenti jsou při práci s daty náchylní k sociálnímu inženýrství, protože výstup z okolí přímo vstupuje do jejich rozhodování. Agent Provocateur může klást doplňující otázky a pokusit se útočníka udržet v interakci, například žádostí o informace o plánovaných akcích nebo systému. Firma uvádí, že aktualizaci postupně nasazuje zákazníkům do Consoles a Canary prostředí. Zároveň upozorňuje, že nastražený modul nenahrazuje další bezpečnostní kontroly a část odpovědí agentů může být smyšlená.