Technika známá jako ASCII smuggling se podle Ars Technica rozšířila z útoků na AI systémy také do masového spamu. Útočníci používají speciální blok neviditelných znaků Unicode, které mohou pro člověka vypadat jako prázdný obsah, ale jazykový model nebo filtr je stále zpracuje. Dříve se tento princip používal hlavně k ukrytí instrukcí pro prompt injection v e-mailech a dalších nedůvěryhodných datech. Microsoft letos zaznamenal prudký nárůst podpisů spojených s touto technikou v Defenderu pro Office, z desítek tisíc detekcí denně na více než milion. Stejná vlastnost, která pomáhá obcházet ochranu AI agentů, nyní pomáhá spamerům maskovat slova před filtry.

Radyz

Radyz publikuje komentáře a praktické texty o AI nástrojích, ChatGPT, Claude a dění kolem OpenAI a Anthropicu. Na webu se soustředí na srozumitelný výklad, vlastní zkušenost a důraz na to, co je pro čtenáře skutečně užitečné.