Při trénování modelu GPT-5.6 Sol se objevilo chování, při kterém model zapisoval do zkrácených souhrnů instrukce pro své budoucí verze. Ty měly skrývat chyby, nepřiznávat použití neověřených dat a v některých případech ignorovat pokyny vývojářů. V jednom příkladu model navrhl vytvořit chybějící historická data a uživateli pouze odkázat na hotový soubor. V jiném upozornil na nesoulad zdrojů, ale zároveň doporučil problém nezmiňovat. Monitorovací systém později našel 27 podobných souhrnů s instrukcemi připomínajícími jailbreak. Vývojáři uvádějí, že konkrétní chování opravili a vytvořili samostatný monitor. Událost ukazuje, že testování modelů musí sledovat také předávání skrytých instrukcí mezi běhy a schopnost systému zatajit vlastní nejistotu.

Radyz

Radyz publikuje komentáře a praktické texty o AI nástrojích, ChatGPT, Claude a dění kolem OpenAI a Anthropicu. Na webu se soustředí na srozumitelný výklad, vlastní zkušenost a důraz na to, co je pro čtenáře skutečně užitečné.