Hugging Face vydal verzi 4.0 knihovny Transformers.js, která přináší zásadní změnu – nový WebGPU runtime kompletně přepsaný v C++. Nový runtime umožňuje provozovat modely přímo v prohlížeči, na serveru i v desktopových aplikacích s GPU akcelerací. Tým spolupracoval s týmem ONNX Runtime na důkladném otestování nové architektury napříč přibližně 200 podporovanými architekturami modelů. K dispozici je přes npm pod názvem @huggingface/transformers. Toto vydání je výsledkem ročního vývoje a výrazně rozšiřuje možnosti nasazení AI modelů v JavaScriptových prostředích.

AI LLM novinky
Radyz

Radyz publikuje komentáře a praktické texty o AI nástrojích, ChatGPT, Claude a dění kolem OpenAI a Anthropicu. Na webu se soustředí na srozumitelný výklad, vlastní zkušenost a důraz na to, co je pro čtenáře skutečně užitečné.