Google Threat Intelligence Group potvrdil, že kriminální hackerská skupina použila AI model k nalezení a zneužití dosud nezveřejněné zranitelnosti v populárním webovém administračním nástroji. Exploit byl navržen tak, aby obcházel dvoufaktorové ověřování a byl připraven pro masové nasazení. Google útok s největší pravděpodobností zachytil dříve, než byl spuštěn. Výzkumníci identifikovali charakteristiky kódu typické pro výstup LLM: automaticky generované dokumentační komentáře, halucinované CVSS skóre a styl odpovídající tréninkovým datům. Gemini jako použitý model byl vyloučen. Jde o první veřejně zdokumentovaný případ, kdy AI posloužila útočníkům přímo při tvorbě funkčního exploitu v ostrém prostředí, nikoli jen v laboratorním testu. Skupiny napojené na Čínu a Severní Koreu projevují podle Googlu rostoucí zájem o AI-asistované hledání zranitelností. Firmy musí počítat s tím, že cyklus od objevení chyby k jejímu zneužití se bude zkracovat.
