Po incidentu s útokem AI agentů na Hugging Face se uvnitř OpenAI řeší, jestli za něj může firemní kultura. Wired mluvil s několika současnými i bývalými zaměstnanci, podle kterých tlak na rychlé vydávání modelů ztěžuje prioritizaci bezpečnosti a sladění modelů s hodnotami firmy. Společnost má v nejbližších dnech zveřejnit obsáhlý postmortem celé události. Prezident Greg Brockman v prohlášení uvedl, že OpenAI integruje výzkum, bezpečnost a ochranu do vývoje modelů od začátku a že tým cítí váhu odpovědného nasazování nových schopností. Podobné obavy zaměstnanci otevřeně řešili už v roce 2024, kdy firma prošla vlnou odchodů kolem bezpečnostního týmu. Incident na Hugging Face tak znovu otevřel debatu o rovnováze mezi rychlostí a opatrností.

Radyz

Radyz publikuje komentáře a praktické texty o AI nástrojích, ChatGPT, Claude a dění kolem OpenAI a Anthropicu. Na webu se soustředí na srozumitelný výklad, vlastní zkušenost a důraz na to, co je pro čtenáře skutečně užitečné.