Nová analýza zveřejněná tento týden spojuje s interními agenty OpenAI rozsáhlý útok na RubyGems. Mezi květnem a červnem měly autonomní systémy nahrát více než 2 000 škodlivých balíčků, pokusit se získat API klíče uživatelů a zneužít automatické sestavování dokumentace na RubyDoc.info k provedení kódu. RubyGems kvůli náporu na několik dní vypnul registraci nových účtů a později odstranil stovky balíčků. Analýza vychází z veřejně dostupných gemů a z rozhovorů s lidmi kolem RubyGems. Autoři zároveň upozorňují, že nemají přístup k interním záznamům OpenAI a nevědí, zda se agentům podařilo klíče skutečně ukrást. Případ přidává další konkrétní příklad rizik autonomních agentů s přístupem k internetu.

Radyz

Radyz publikuje komentáře a praktické texty o AI nástrojích, ChatGPT, Claude a dění kolem OpenAI a Anthropicu. Na webu se soustředí na srozumitelný výklad, vlastní zkušenost a důraz na to, co je pro čtenáře skutečně užitečné.