Bezpečnostní výzkumníci z Noma Security objevili kritickou zranitelnost v nových Agentic Workflows na GitHubu, kterou pojmenovali GitLost. Útočník dokázal jediným veřejným issue v repozitáři přimět GitHub AI agenta, aby bez autorizace načetl obsah z privátních repozitářů stejné organizace a zveřejnil ho. Zranitelnost je učebnicovým příkladem indirect prompt injection – AI agent přečetl škodlivé instrukce skryté v obsahu issue a podle nich jednal. GitHub sice nasadil bezpečnostní zábrany, ale ty se podařilo obejít trikem s klíčovým slovem „Additionally“. Výzkumníci zranitelnost zodpovědně nahlásili GitHubu a detaily zveřejnili s jeho vědomím. Incident ukazuje, že prompt injection představuje pro agentní AI systémy stejné riziko jako kdysi SQL injection pro webové aplikace.

Radyz

Radyz publikuje komentáře a praktické texty o AI nástrojích, ChatGPT, Claude a dění kolem OpenAI a Anthropicu. Na webu se soustředí na srozumitelný výklad, vlastní zkušenost a důraz na to, co je pro čtenáře skutečně užitečné.