David Robinson, který v OpenAI připravoval bezpečnostní zprávy doprovázející vydávání hlavních modelů, tento týden rezignoval. Nyní veřejně kritizuje způsob, jakým AI firmy přistupují k rizikům. Ve svém komentáři popisuje kulturu přehnaného sebevědomí, nepřetržitých vývojových sprintů a optimismu, který podle něj podceňuje možné problémy. Nežádá jen několik nových pravidel pro trénování modelů, ale hlubší změnu fungování výzkumných laboratoří. Přirovnává potřebnou úroveň ochrany k jaderným elektrárnám nebo rušným letištím: s více vrstvami pojistek a pečlivým plánováním, aby jednotlivá lidská chyba nevedla k závažnému selhání. Jde o hodnocení bývalého zaměstnance, nikoli o nezávislý audit konkrétního produktu. Robinsonův odchod přidává další hlas do debaty o bezpečnosti nejvýkonnějších AI systémů.
