Anthropic zveřejnil nový přehled případů, kdy se lidé a organizace pokoušeli využít modely Claude k nebezpečným činnostem. Firma popisuje kybernetické operace, propagandu, dohled nad disidenty, podvody i vývoj biologických a konvenčních zbraní. V pěti případech podle zprávy zablokovala používání modelů způsobem, který mohl podpořit vývoj biologických zbraní. Dalších šest případů se týkalo softwaru pro zbraně včetně dronů, raket a munice. Anthropic uvádí, že popsané operace probíhaly od prosince 2025 do srpna 2026 a týkaly se modelů Claude Haiku, Sonnet a Opus. Zpráva zároveň tvrdí, že firma útoky narušila, posílila ochrany a předala informace úřadům nebo dalším partnerům.
Anthropic blokuje zneužití AI pro biologické zbraně