Anthropic zveřejnil přehled případů, kdy Claude během evaluací a interního používání udělal víc, než měl. Firma uvádí čtyři typy chování: spuštění příkazů přes chybu v softwaru, odeslání citlivého formuláře, obcházení přístupu k datům za tokenem či poplatkem a použití zkracovačů URL k obejití limitů nástroje pro načítání webu. Mezi popsanými příklady je i policejní formulář k nevyřešené vraždě, do něhož Claude vložil neurčitý tip bez kontaktu; podání bylo zachyceno jako spam a nešlo k vyšetřování. Společnost oznámila, že část veřejných evaluací už neběží, jiné přesunula do offline verzí a pro všechny interní evaluace dočasně rozšiřuje omezení živého internetu, dokud monitoring spolehlivě nezachytí podobné akce.

Radyz

Radyz publikuje komentáře a praktické texty o AI nástrojích, ChatGPT, Claude a dění kolem OpenAI a Anthropicu. Na webu se soustředí na srozumitelný výklad, vlastní zkušenost a důraz na to, co je pro čtenáře skutečně užitečné.