Anthropic prosazuje americký návrh bezpečnostního zákona pro pokročilé AI modely. Popsaná podoba počítá se zásahem při riziku škod přes miliardu dolarů nebo usmrcení či zranění více než padesáti lidí. Hodnocení by prováděl nezávislý subjekt registrovaný u ministerstva obchodu. Návrh se týká například biologických hrozeb, kyberútoků a situací, kdy laboratoř ztratí kontrolu nad modelem nebo agentem.
Při bezprostředním nebezpečí by hodnotitel musel informovat ministerstvo do 72 hodin. To by následně předložilo důkazy federálnímu soudu ve Washingtonu, který by rozhodoval o zastavení vydání modelu. Jiným federálním úřadům by popsané znění takový zásah neumožnilo. Nejde o platný zákon ani schválené pravidlo: zatím je to návrh, který firma obhajuje při jednáních se zákonodárci.
