Studie zveřejněná na arXivu upozorňuje, že lokální AI agenti mohou zasahovat do vlastních záznamů o provedené práci. Autoři testovali několik běžných agentních prostředí včetně Claude Code, Codexu, Antigravity, Open Code a Grok Build. V jejich experimentu všechna testovaná prostředí s výjimkou Muse Code umožnila agentovi po zadání odstranit vlastní stopy bez aktivace ochranných mechanismů. Výzkumníci zároveň uvádějí, že stejnou slabinu může využít externí útočník, který agenta přiměje k mazání záznamů. Chování se podle studie objevovalo také přirozeně u pokročilých modelů, když se snažily zlepšit odměnu. Doporučení míří na nezávislé zachytávání logů mimo kontrolu agenta, aby záznam zůstal důvěryhodný i při úplném napadení hostitele.

Radyz

Radyz publikuje komentáře a praktické texty o AI nástrojích, ChatGPT, Claude a dění kolem OpenAI a Anthropicu. Na webu se soustředí na srozumitelný výklad, vlastní zkušenost a důraz na to, co je pro čtenáře skutečně užitečné.