Anthropic představil Enterprise Frontier Safeguards, bezpečnostní systém pro používání nejvýkonnějších modelů Claude v regulovaných organizacích. Aktivitu potřebnou pro průběžné odhalování zneužití budou firmy ukládat ve vlastním cloudovém účtu, pod vlastními šifrovacími klíči, přístupovými pravidly a auditem. Automatické systémy Anthropic mají v klouzavém časovém okně hledat pokusy o vývoj útočných kybernetických nebo biologických schopností a známky odcizených přihlašovacích údajů. Upozornění půjdou přímo zákazníkovi a lidskou kontrolu budou provádět jeho pracovníci, nikoli zaměstnanci Anthropic. Firma systém navrhovala s více než stovkou organizací a cloudovými partnery AWS, Google Cloud a Microsoft Azure. Zavádění začne po etapách později na podzim. Do té doby dostanou způsobilí zákazníci u modelů Fable 5 a 5.1 režim nulového uchovávání dat.
Anthropic chystá bezpečnostní systém pro Claude pod kontrolou zákazníků