METR zveřejnila ukázku zranitelnosti v prohlížeči záznamů hodnoticího frameworku Inspect. Výzkumník s pomocí AI agenta našel chybu přibližně za deset minut. Umožňovala změnit to, co lidský hodnotitel vidí na stránce, včetně zobrazených předchozích akcí a chování tlačítka pro stažení záznamu. Podstatné omezení: původní data v databázi se neměnila a METR nezaznamenala využití této chyby ve vlastních evaluacích. Šlo o demonstraci v odděleném testovacím prostředí, ne o potvrzené zakrývání skutečného incidentu. Tým Meridian Labs chybu opravil do jednoho dne od nahlášení. Zpráva upozorňuje, že výstupy agentů nelze automaticky považovat za důvěryhodné a že nástroje pro jejich sledování musí být chráněny stejně důsledně jako jiné bezpečnostně kritické systémy.

Radyz

Radyz publikuje komentáře a praktické texty o AI nástrojích, ChatGPT, Claude a dění kolem OpenAI a Anthropicu. Na webu se soustředí na srozumitelný výklad, vlastní zkušenost a důraz na to, co je pro čtenáře skutečně užitečné.