Studie odhalila možné nafukování tokenů u placených LLM

Nová studie popisuje útok, při němž by poskytovatel placeného LLM mohl nenápadně prodlužovat odpovědi a zvyšovat účet bez odpovídajícího růstu užitku. Výzkumníci tento scénář nazvali Provider-Side Token Inflation Attack a otestovali pět variant zásahu do generování. V experimentech měla každá z nich zvýšit průměrnou délku výstupu na více než desetinásobek čistého základu. Navržený audit s jedinou kontrolní sondou odhalil v testu 85,1 procenta útoků při falešně pozitivní míře pod dvě procenta. Autoři ho použili na patnácti reálných API službách a u sedmi našli chování konzistentní s nafukováním tokenů. Výsledek je auditní signál, ne důkaz úmyslného podvodu.