Americká armáda málem zahájila operaci proti čínské lodi poté, co interní zpravodajská zpráva chybně označila její náklad za součást programu jaderných zbraní. Analytik při přípravě použil chatbot, který nesprávně určil materiál na palubě a následně pomohl sestavit formální report. Dokument byl rozšířen mezi vojenské složky a podle popisu incidentu se připravovalo i nasazení ozbrojených jednotek a letadel. Chyba se odhalila až krátce před plánovanou akcí. Případ ukazuje riziko používání generativní AI při rozhodování o cílech a pohybu vojenských prostředků. Zároveň odhaluje problém důvěry, protože výstup z chatbota byl zabalen do formátu, kterému úředníci běžně přikládají vysokou váhu. Podrobnosti o použitém systému ani přesném nákladu zveřejněny nebyly.
