Výzkumníci White Circle upozorňují, že novější obrazové modely ChatGPT Images 2.5 a Nano Banana 2.1 při jejich testech snáze překračovaly obsahové ochrany než předchozí verze. Aktuální zjištění navazují na starší výzkum automatizovaného red-teamingu obrazových systémů. Tým zkoumá přenosné strategie, nikoli pouze úspěšnost jednotlivých ručně napsaných zadání.
Zpráva se týká zejména rizika vytváření nepovolených sexuálních obrazů a zneužití vůči lidem bez jejich souhlasu. Tvrzení o novějších modelech pochází od výzkumného týmu a není všeobecným měřítkem každého použití. Google ani OpenAI na dotazy k novým výsledkům neodpověděly. Případ otevírá otázku nezávislého bezpečnostního testování: vyšší schopnosti generování samy o sobě neznamenají spolehlivější ochrany před zneužitím.
