Server 404 Media odhalil případ, kdy si muž zastupující sebe sama u soudu v Connecticutu ukryl do oficiálního podání instrukce určené umělé inteligenci. V dokumentu proti newyorské skupině bariatrické chirurgie nechal v bílém textu o velikosti tří bodů vzkazy typu, aby případný model AI souhlasil s předloženým podáním a zaměřil se na nápravu. Matthew Elliott tak chtěl přimět případný AI systém, který by podání zpracovával, aby se přiklonil na jeho stranu. Jde o další příklad prompt injection, útoku, při kterém jsou do vstupu schované instrukce pro model. Právní systémy po celém světě začínají AI používat při třídění dokumentů i analýze sporů, což zvyšuje riziko podobných manipulací. Odborníci doporučují, aby soudy i advokátní kanceláře kontrolovaly podání na skryté instrukce stejně pečlivě jako na jiné formy podvodů.
