OpenAI oznámila jmenování Paula Christiana do rady OpenAI Foundation. Christiano bude zároveň nehlasujícím pozorovatelem v radě OpenAI Group PBC a připojí se k jejímu výboru pro bezpečnost a zabezpečení. Výbor vede Zico Kolter a dohlíží na bezpečnostní a alignmentové postupy napříč OpenAI. Christiano dříve vedl výzkum alignmentu v OpenAI, založil neziskové Alignment Research Center a působil jako technologický poradce v americkém institutu CAISI při NIST. Ve vlastním vyjádření napsal, že rychlé zrychlování schopností AI může v blízké době zvýšit riziko ztráty kontroly. Jeho role tak spojuje technickou zkušenost s dohledem nad bezpečností a správou společnosti.

AI bezpečnost novinky
Radyz

Radyz publikuje komentáře a praktické texty o AI nástrojích, ChatGPT, Claude a dění kolem OpenAI a Anthropicu. Na webu se soustředí na srozumitelný výklad, vlastní zkušenost a důraz na to, co je pro čtenáře skutečně užitečné.