Paralelní dekódování je způsob generování textu, při kterém jazykový model vytváří více výstupních tokenů současně, místo aby každý z nich vypočítal samostatně po předchozím. Hlavní obtíž spočívá v tom, aby spolu takto vzniklé části věty souhlasily. Některé metody proto jejich závislosti propojují pomocí skrytých pomocných proměnných, jiné výstup postupně zpřesňují. Nejde jen o rozdělení modelu mezi více GPU ani o spekulativní dekódování, při němž další model ověřuje navržené tokeny. Cílem je zkrátit čekání na odpověď; skutečné zrychlení a kvalita závisejí na konkrétní metodě a úloze.
