Nová benchmarková platforma ComputeArena sbírá výsledky běhu lokálních modelů na různých počítačích a akcelerátorech. U každého měření rozlišuje rychlost generování a předzpracování, použitý model, kvantizaci, čip i runtime. Výsledky vznikají z podepsaných reportů vytvořených na hardwaru komunity, takže lze porovnávat například stejné modely na čipech Apple nebo na sestavách s více GPU. Nástroj funguje v macOS a Linuxu a měření lze spustit bez účtu. Report zůstává nejprve lokálně a uživatel ho odešle až po kontrole. Žebříček proto neslibuje laboratorní univerzální pořadí, ale nabízí detailnější pohled na to, jak se lokální AI chová v konkrétní kombinaci modelu, kvantizace a hardwaru. To může být praktičtější než porovnávat jen názvy čipů.
ComputeArena porovnává rychlost lokální AI na různých čipech