AWS představilo TorchNeuron, nativní backend PyTorche pro vlastní AI akcelerátory Trainium. Vývojáři mají používat známé modely, knihovny a nástroje, místo aby kvůli odlišnému hardwaru přepisovali celý pracovní postup. Veřejná beta a otevření zdrojových kódů pod licencí Apache 2.0 jsou oznámené na 20. října, tedy na úterý. Nejde ještě o dnes všeobecně dostupnou verzi.

Backend podporuje Trainium2 a Trainium3, okamžité vykonávání operací pro experimentování i kompilaci pro produkční provoz. Pro vlastní výpočetní jádra nabízí Neuron Kernel Interface a pro hledání úzkých míst propojení standardního profilování s Neuron Explorerem. První vydání má také výslovná omezení, například u dynamických tvarů tensorů. Široká kompatibilita proto neznamená, že už funguje každá funkce PyTorche.

Radyz

Radyz publikuje komentáře a praktické texty o AI nástrojích, ChatGPT, Claude a dění kolem OpenAI a Anthropicu. Na webu se soustředí na srozumitelný výklad, vlastní zkušenost a důraz na to, co je pro čtenáře skutečně užitečné.