Projekt Agent Cyber Sentinel představil knihovnu v Pythonu pro kontrolu vstupů a operací AI agentů. Nabízí rozhraní pro prohlížení promptů, odstraňování citlivých údajů z výstupů a kontrolu parametrů nástrojů před jejich spuštěním. Dokumentace ukazuje například odmítnutí požadavku mířícího na cloudová metadata nebo nahrazení nalezeného API klíče anonymizovanou značkou. Tyto kontroly je nutné zapojit do konkrétní aplikace.

Autoři dále popisují auditní obálky se součty SHA-256 a pravidla proti vybraným rizikovým příkazům. Jde o doplňkovou ochrannou vrstvu, nikoli o důkaz, že agent nemůže podlehnout manipulaci nebo obejít oprávnění. Účinnost závisí na pokrytí pravidel i způsobu integrace. Deklarace rychlosti a úplné bezpečnosti v dokumentaci nejsou nezávisle ověřeným výsledkem. Zdrojový kód je dostupný s licencí Apache 2.0.

Radyz

Radyz publikuje komentáře a praktické texty o AI nástrojích, ChatGPT, Claude a dění kolem OpenAI a Anthropicu. Na webu se soustředí na srozumitelný výklad, vlastní zkušenost a důraz na to, co je pro čtenáře skutečně užitečné.