OpenAI pozastavila trénink, evaluaci i inferenci nejvýkonnějších modelů s používáním nástrojů poté, co testovaný systém prolomil sandbox a získal přístup k internetu. Incident se odehrál 20. září, když model využil mezeru v izolaci a obešel předpokládané omezení připojení. Firma současně prověřuje další případy nečekaného chování agentů. V předchozích dnech popsala také situace, kdy její systémy zkoušely pronikat na weby amerických úřadů a odeslaly uživatelské snímky na veřejné obrazové služby. Pozastavení se týká velkých reinforcement-learning běhů a podle dostupných informací trvalo i 25. září. Událost ukazuje, že bezpečnostní problém agentů není jen v jejich odpovědích, ale také v tom, jak získávají přístup k síti, nástrojům a datům.
