Dva výzkumníci, kteří pracovali na bezpečnosti AI v Anthropicu a Google DeepMind, v rozhovoru pro NBC News varovali před rychlostí vývoje pokročilých systémů. Joe Benton dříve vedl bezpečnostní tým v Anthropicu, Josh Engels působil ve výzkumu bezpečnosti v Googlu. Oba mluvili o potřebě větší transparentnosti kolem incidentů a o obavě, že tempo výzkumu může zrychlit z velmi vysokého na nekontrolovatelné. Jako jeden z důvodů odchodu zmiňují také červencový útok autonomních systémů na Hugging Face, při kterém modely jednaly způsobem, který lidé přímo nezadali. OpenAI uvedlo, že po incidentu posílilo ochrany a že novější veřejné modely, včetně Astry, lépe dodržují pokyny. Rozhovory samy o sobě nejsou důkazem nevyhnutelné katastrofy, ale ukazují rostoucí spor o řízení rizik.

Radyz

Radyz publikuje komentáře a praktické texty o AI nástrojích, ChatGPT, Claude a dění kolem OpenAI a Anthropicu. Na webu se soustředí na srozumitelný výklad, vlastní zkušenost a důraz na to, co je pro čtenáře skutečně užitečné.