OpenAI navrhuje, aby před pokračováním tréninku nejpokročilejších modelů vznikal strukturovaný bezpečnostní posudek. Má jít o soubor doložitelných argumentů o rizicích, podobně jako v letectví nebo jaderném průmyslu. První doporučení se týkají technických pojistek při tréninku: kontroly dat a prostředí, měření známek nesouladu, zátěžových testů i ochrany výzkumné infrastruktury. Firma zdůrazňuje, že jde zatím o směr, ke kterému chce dojít, nikoli o hotový standard. Upozorňuje také na obtížnost přenosu postupů z jiných oborů na stále schopnější modely. Zveřejněný dokument se zaměřuje na posilované učení; nasazení modelů vyžaduje širší soubor bezpečnostních úvah. Společnost zveřejněním vyzývá komunitu k připomínkám.

Radyz

Radyz publikuje komentáře a praktické texty o AI nástrojích, ChatGPT, Claude a dění kolem OpenAI a Anthropicu. Na webu se soustředí na srozumitelný výklad, vlastní zkušenost a důraz na to, co je pro čtenáře skutečně užitečné.