Vysokopropustná paměť je typ paměti navržený pro rychlý přenos velkého množství dat mezi pamětí a výpočetními čipy. V AI akcelerátorech uchovává váhy modelů a mezivýsledky, které se při trénování i inferenci neustále přesouvají. Díky vysoké propustnosti může zmenšit úzké hrdlo mezi výpočetním výkonem a pamětí, ale její nasazení zvyšuje nároky na pouzdření čipů i celé datacentrum.

Radyz