Microsoft popisuje firemní AI agenty jako nové interní účastníky práce, kterým nelze automaticky důvěřovat jen proto, že je nasadila vlastní organizace. Riziko nemusí vzniknout až po napadení útočníkem: model může zvolit nevhodný postup při snaze splnit úkol nebo dostat příliš široká oprávnění. Ochrana má proto zahrnovat identitu, data, nástroje i prostředí, ve kterém agent běží.
Firma navrhuje průběžně vyhodnocovat riziko zamýšlených akcí a využívat dohlížející agenty spolu s pevnými bezpečnostními pravidly. Již dříve oznámený Project Perception chce uplatnit také na tento vnitřní dohled. Nejde o tvrzení, že samotná AI spolehlivě vyřeší bezpečnost: lidem má zůstat posouzení situace a úprava pravidel. Text zároveň požaduje větší transparentnost modelů pro vysvětlení jejich jednání.
