Web Quantized nabízí přehled jazykových modelů podle paměti dostupné v grafické kartě nebo počítači Mac. Uživatel vybere hardware a zaměření, například běžný chat, programování či práci s obrazem. Služba následně ukáže modely, které by se měly vejít, rozpad paměťových nároků a příkaz pro jejich spuštění. Aktuální index uvádí 117 modelů a 78 hardwarových konfigurací.

Výchozí výpočet počítá s kontextem čtyř tisíc tokenů a jedinou položkou v dávce. Zahrnuje váhy, mezipaměť a rezervu pro aktivace. Web rozlišuje odhady od publikovaných měření a upozorňuje, že rychlost naměřená na jiné kartě není příslibem výkonu uživatelova počítače. Prakticky tak slouží jako první orientace před stahováním velkých vah, nikoli jako záruka kompatibility nebo výkonu každé sestavy.

Radyz

Radyz publikuje komentáře a praktické texty o AI nástrojích, ChatGPT, Claude a dění kolem OpenAI a Anthropicu. Na webu se soustředí na srozumitelný výklad, vlastní zkušenost a důraz na to, co je pro čtenáře skutečně užitečné.