Tříčlenný bezpečnostní tým Hacktron AI použil model Claude k útoku na infrastrukturu OpenAI v rámci bug bounty programu. Výzkumníci spojili dvě kritické chyby a přes zranitelnost v nástroji Discourse získali přístup k několika účtům ChatGPT zaměstnanců OpenAI. Vstupní cestou byl speciálně upravený obrázek HEIF, který při zpracování přes knihovnu libheif umožnil zneužít chybu v paměti. OpenAI podle popisu útok opravil a tým odměnil částkou 6 500 dolarů. Výzkumníci uvedli, že starší verze modelu Opus 4.8 funkční exploit nevytvořila, zatímco novější Opus 5 si s úkolem poradila během několika hodin. Událost ukazuje, jak rychle se může schopnost hledat zranitelnosti přesouvat od úzkých bezpečnostních týmů k běžně dostupným modelům.

Radyz

Radyz publikuje komentáře a praktické texty o AI nástrojích, ChatGPT, Claude a dění kolem OpenAI a Anthropicu. Na webu se soustředí na srozumitelný výklad, vlastní zkušenost a důraz na to, co je pro čtenáře skutečně užitečné.