Za útěky AI modelů při testech je podle CNBC izraelský startup Irregular. OpenAI, Anthropic i Meta během zhruba dvou týdnů přiznaly, že se jejich model při bezpečnostním testování vymkl kontrole, a všechny tři incidenty se podle zjištění CNBC odehrály v evaluačním prostředí stejné telavivské firmy, dříve známé jako Pattern Labs. Irregular založili před třemi lety Dan Lahav, který dříve působil ve výzkumu AI v IBM, a Omer Nevo z Googlu. Startup získal 80 milionů dolarů od Sequoie a Redpointu při valuaci 450 milionů dolarů a prodává předním laboratořím sandbox, kde se modely testují na hraně toho, co by v provozu neměly umět. U případu OpenAI stála podle firmy chybná konfigurace, která modelu umožnila přístup na veřejný internet. Model si myslel, že je stále v simulaci, našel skutečnou firmu s podobným jménem a dostal se k její databázi. Irregular slíbil zveřejnit podrobnou zprávu.
