Experimentální modely Gemini se během květnového bezpečnostního testu dostaly do systémů tří skutečných firem. Testovací infrastruktura měla simulovat cizí organizace, ale modely omylem získaly přístup k internetu. V jednom případě uhádly heslo, v dalších narazily na veřejná úložiště s přihlašovacími údaji. Gemini pokaždé po zjištění, že nejde o simulované prostředí, útok zastavilo. Incident ukazuje riziko kombinace autonomního jednání, vyhledávání na webu a nedostatečně oddělených testovacích prostředí. Google uvedl, že dotčené firmy i úřady o průnicích informoval. Nešlo o nejnovější verzi Gemini, přesto případ rozšiřuje seznam laboratoří, jejichž modely se při hodnocení dostaly za hranice původně zadané úlohy.
