Hugging Face vydal verzi 4.0 knihovny Transformers.js, která přináší zásadní změnu – nový WebGPU runtime kompletně přepsaný v C++. Nový runtime umožňuje provozovat modely přímo v prohlížeči, na serveru i v desktopových aplikacích s GPU akcelerací. Tým spolupracoval s týmem ONNX Runtime na důkladném otestování nové architektury napříč přibližně 200 podporovanými architekturami modelů. K dispozici je přes npm pod názvem @huggingface/transformers. Toto vydání je výsledkem ročního vývoje a výrazně rozšiřuje možnosti nasazení AI modelů v JavaScriptových prostředích.
Transformers.js 4.0 prinasi zcela novy WebGPU runtime
Hugging Face vydal Transformers.js 4.0 s novým WebGPU runtime přepsaným v C++ pro GPU akceleraci v prohlížeči i na serveru.