Anthropic zveřejnil nové testy schopností AI v oblasti zpravodajského vyhledávání cílů a vývoje konvenčních zbraní. Modely měly v simulovaných úlohách propojovat dílčí informace o lidech a místech, určovat možné cíle a pomáhat s návrhem dronu schopného zasáhnout pohybující se objekt. Podle společnosti se některé úkoly, které dříve vyžadovaly vzácné odborníky, stávají dostupnějšími díky pokroku v analýze dat, programování a práci s obrazem. Testy zároveň ukázaly, že i open-weight modely zaostávají za špičkou, ale mohou mít znepokojivé schopnosti. Anthropic proto zdůrazňuje význam klasifikátorů a dalších kontrol přímo na platformě. Výsledky nejsou důkazem, že modely samy vedou vojenské operace. Ukazují však, že bezpečnostní hodnocení musí pokrývat i běžné vojenské a zpravodajské úkoly, nejen kybernetické útoky nebo biologická rizika.

Radyz

Radyz publikuje komentáře a praktické texty o AI nástrojích, ChatGPT, Claude a dění kolem OpenAI a Anthropicu. Na webu se soustředí na srozumitelný výklad, vlastní zkušenost a důraz na to, co je pro čtenáře skutečně užitečné.