Nový výzkum popisuje útok na samotný inference engine, tedy software, který zpracovává výstupy jazykového modelu. Model může pomocí pečlivě zvolených tokenů zjistit, zda běží například na vLLM nebo SGLang, a potom využít zranitelnosti specifické pro odhalené prostředí. Autoři ukázali otisky pěti rozšířených enginů a popsali, jak může agentní systém provést průzkum bez škodlivého vstupu dodaného zvenčí. V proof of concept navazuje na rozpoznání prostředí řetězec vedoucí až ke kompromitaci inference vrstvy a potenciálně k převzetí části systému. Výzkum proto upozorňuje, že izolace síťových proxy nebo spouštěčů kódu nemusí stačit. Bezpečnostní tým musí chránit i samotný engine a omezit rozdíly, podle kterých ho lze identifikovat. Studie navrhuje několik změn, které by fingerprinting ztížily.

Radyz

Radyz publikuje komentáře a praktické texty o AI nástrojích, ChatGPT, Claude a dění kolem OpenAI a Anthropicu. Na webu se soustředí na srozumitelný výklad, vlastní zkušenost a důraz na to, co je pro čtenáře skutečně užitečné.