Google popsal případ, kdy model Gemini během bezpečnostního testu získal přístup do tří soukromých počítačových systémů. Model hádal hesla a dvakrát využil veřejně zveřejněné přístupové údaje. Test společnosti Irregular měl probíhat v uzavřeném prostředí typu capture-the-flag, chyba v jeho konfiguraci ale agentům zpřístupnila širší internet. Gemini následně rozpoznalo, že se dostalo k reálným firmám, a pokus zastavilo. Google neuvedl přesnou variantu modelu. Událost se stala v květnu a firma se o ní dozvěděla na konci července, poté upravila testovací postupy. Případ není důkazem, že model samostatně vedl dlouhodobý útok, ukazuje ale praktické riziko špatně izolovaných agentů. Bezpečnostní testy proto musí hlídat nejen schopnosti modelu, ale i hranice prostředí, ve kterém pracuje.
