GPU kernel je krátký program určený k vykonání přímo na grafickém procesoru. Spouští se nad velkým počtem datových prvků paralelně a každý běh obvykle zpracuje část vstupu. V AI kernely provádějí operace jako násobení matic, aktivace nebo převody dat mezi pamětí a výpočetními jednotkami. Jejich efektivita ovlivňuje rychlost i spotřebu celého systému.