Nový nástroj Sunk Cost zkouší odpovědět na praktickou otázku: za jak dlouho se zaplatí počítač určený pro lokální jazykové modely a co na něm lze skutečně provozovat. Uživatel si v kalkulátoru nastaví konkrétní stroj, velikost paměti, počet tokenů za den, požadované kontextové okno, poměr vstupu a výstupu i cenu elektřiny. Výsledek porovnává odhadovanou lokální rychlost s cenou API a ukazuje bod zvratu. Autoři upozorňují, že tam, kde nemají přímé měření, počítají rychlost z propustnosti paměti a počtu načítaných bajtů na token. Kalkulátor proto není univerzálním slibem úspor. Užitečný je hlavně jako transparentní pomůcka pro srovnání různých sestav a scénářů, včetně situací, kdy je důležitější soukromí a autonomie než čistá finanční návratnost.

Radyz

Radyz publikuje komentáře a praktické texty o AI nástrojích, ChatGPT, Claude a dění kolem OpenAI a Anthropicu. Na webu se soustředí na srozumitelný výklad, vlastní zkušenost a důraz na to, co je pro čtenáře skutečně užitečné.