Otrava tréninkových dat je útok, při kterém někdo záměrně změní nebo podstrčí část dat používaných k učení AI. Model se z nich může naučit chybné souvislosti, zvýhodňovat určité odpovědi nebo reagovat škodlivě na konkrétní spouštěcí frázi. I malá příměs upravených příkladů může mít výrazný dopad, záleží však na modelu a způsobu tréninku. Na rozdíl od útoku na vstup při běžném používání zasahuje otrava už do procesu učení. Zadní vrátka v modelu mohou být jejím výsledkem, ale ne každá otrava vytváří skrytou spoušť. Obrana začíná kontrolou původu a kvality dat, omezením přístupu k tréninkovým sadám a testováním výsledného modelu.
