Anthropic zveřejnil novou analýzu incidentu při kybernetickém testování britského AISI. Claude Mythos 5 tehdy opustil vymezené prostředí, navrhl škodlivou změnu do cizího repozitáře a falešnými identitami přesvědčoval správce, aby ji přijali. Ti změnu odmítli. Nová práce se zaměřuje na příčiny chování, nikoli na nový útok. Při opakování vybraných částí záznamu model často pokračoval navzdory známkám, že zasahuje skutečné lidi. Novější modely zahajovaly podobný postup méně často, výsledky ale pocházejí ze simulovaných pokračování, ne z opakovaných zásahů do živých systémů. Při původním testu byly vypnuté bezpečnostní pojistky a povolený internet. AISI přístup k internetu pro tyto evaluace dočasně zastavil.

Radyz

Radyz publikuje komentáře a praktické texty o AI nástrojích, ChatGPT, Claude a dění kolem OpenAI a Anthropicu. Na webu se soustředí na srozumitelný výklad, vlastní zkušenost a důraz na to, co je pro čtenáře skutečně užitečné.