Šéf Microsoftu Satya Nadella navrhuje, aby AI systémy měly nouzovou brzdu, kterou může oprávněný člověk použít i uprostřed rozpracovaného úkolu. Ve zveřejněném bezpečnostním komentáři doporučuje oddělit samotný model od vrstvy, která řídí jeho činnost, a přesunout kontroly a pojistky mimo model. U významných akcí chce také uchovávat lidsky čitelné záznamy odolné proti dodatečným zásahům.

Nadellův výchozí předpoklad je záměrně přísný: provozovatel má s modelem zacházet jako s potenciálně kompromitovanou součástí, nikoli jako s jediným garantem vlastní bezpečnosti. Jde o návrh architektury důvěry, ne oznámení nové funkce Microsoftu nebo potvrzení konkrétního incidentu. Pro vývojáře agentů je podstatné zejména to, že možnost zastavit běh a ověřit důležité kroky nemá záviset jen na spolupráci samotného modelu.

Radyz

Radyz publikuje komentáře a praktické texty o AI nástrojích, ChatGPT, Claude a dění kolem OpenAI a Anthropicu. Na webu se soustředí na srozumitelný výklad, vlastní zkušenost a důraz na to, co je pro čtenáře skutečně užitečné.