Hugging Face zveřejnil knihovnu @huggingface/kernels a počáteční kolekci 207 optimalizovaných WebGPU jader pro spouštění modelů přímo v moderních prohlížečích. Každé jádro je na Hubu uložené jako verzovaný balíček s popisem rozhraní, šablonami shaderů WGSL, testy správnosti, benchmarky a návodem k použití. Vývojáři mohou jádra načítat z JavaScriptu a používat je pro operace jako násobení matic, normalizaci, konvoluce, attention nebo kvantizaci. Projekt je dostupný pod licencí Apache 2.0. Současně vznikl nástroj Fleet, který měří správnost a výkon jader přímo na grafické kartě uživatele v prohlížeči. Dobrovolně sdílené výsledky mají pomoci odhalit pomalé nebo chybné varianty na různých kombinacích GPU, ovladačů a prohlížečů. Cílem je vytvořit společnou, testovatelnou základní vrstvu pro rychlejší lokální inferenci na webu.

Radyz

Radyz publikuje komentáře a praktické texty o AI nástrojích, ChatGPT, Claude a dění kolem OpenAI a Anthropicu. Na webu se soustředí na srozumitelný výklad, vlastní zkušenost a důraz na to, co je pro čtenáře skutečně užitečné.