Vývojář Gil Neto zveřejnil test skrytých instrukcí v bankovních PDF na vlastním připravovaném extraktoru Damasqo Capture. Ten nepoužívá jazykový model a kontroluje, zda počáteční zůstatek s transakcemi odpovídá konečnému. Podvržený řádek nebo zakrytá částka v testu vedly k odmítnutí dokumentu. Skrytý text vložený do popisu transakce ale prošel a stal se součástí výsledných dat.

Experiment tak ukazuje rozdíl mezi správností čísel a bezpečností textu, který později přečte AI. Samotný extraktor instrukci neposlechl, mohl ji však předat dalšímu modelu. Nejde o doložený útok na provozovanou bankovní službu. Autor plánuje podezřelé dokumenty označovat, předávat člověku ke kontrole a neposílat jejich popisy do modelu; popsaná ochrana ještě není hotové nasazení.

Radyz

Radyz publikuje komentáře a praktické texty o AI nástrojích, ChatGPT, Claude a dění kolem OpenAI a Anthropicu. Na webu se soustředí na srozumitelný výklad, vlastní zkušenost a důraz na to, co je pro čtenáře skutečně užitečné.