Bezpečnostní výzkumníci navrhují, aby externí evaluátoři získali průběžný přístup k vývoji modelů přímo uvnitř laboratoří Anthropic a OpenAI. Nešlo by jen o kontrolu hotového modelu před vydáním. Evaluátoři by mohli porovnávat mezistavy tréninku, takzvané checkpointy, sledovat prostředí po tréninku a ověřovat záznamy testů. Díky tomu by mohli lépe zjistit, kdy se objevilo znepokojivé chování a zda firma správně popisuje výsledky. Návrh ale naráží na nezávislost. Výzkumníci upozorňují, že smlouvy, dohody o mlčenlivosti a omezení zveřejnění mohou dát laboratořím příliš velkou kontrolu nad tím, co se veřejnost dozví. Anthropic ani OpenAI zatím podle článku neupřesnily, s kým budou spolupracovat, jaký přístup evaluátoři dostanou ani jaké části zjištění bude možné zveřejnit.

Radyz

Radyz publikuje komentáře a praktické texty o AI nástrojích, ChatGPT, Claude a dění kolem OpenAI a Anthropicu. Na webu se soustředí na srozumitelný výklad, vlastní zkušenost a důraz na to, co je pro čtenáře skutečně užitečné.