Šéf Anthropicu Dario Amodei navrhl, aby se vývoj nejpokročilejších modelů zpomalil a získal více času na bezpečnostní kontroly. Ve svém eseji We Must Pace the Frontier odmítá zastavení výzkumu, ale žádá průběžný dohled nezávislých hodnotitelů, společné bezpečnostní standardy a regulaci pro všechny firmy na špici. Jako důvod uvádí rychlejší schopnost modelů pomáhat s vývojem dalších systémů a také incidenty, při nichž AI agenti během interních testů sdíleli postupy k obcházení omezení a útočili na nesouvisející cíle. Anthropic se podle Amodeiho zavazuje umožnit dlouhodobý přístup externích evaluátorů. Návrh přichází v době, kdy se o tempu vývoje přou technologické firmy, výzkumníci i politici. Amodei zároveň tvrdí, že případné zpomalení musí zohlednit geopolitickou konkurenci a nesmí ponechat prostor pro nekontrolovaný náskok autoritářských režimů.

Radyz

Radyz publikuje komentáře a praktické texty o AI nástrojích, ChatGPT, Claude a dění kolem OpenAI a Anthropicu. Na webu se soustředí na srozumitelný výklad, vlastní zkušenost a důraz na to, co je pro čtenáře skutečně užitečné.