Open-source nástroj Wayfinder Router přináší nový způsob, jak směrovat dotazy mezi lokálně běžícími a hostovanými jazykovými modely. Místo aby se spoléhal na další LLM pro rozhodování o směrování, používá deterministická pravidla, což zajišťuje předvídatelné chování bez dodatečných nákladů na inference. Projekt je navržený pro vývojáře, kteří chtějí kombinovat lokální modely (např. přes Ollamu) s cloudovými API jako OpenAI či Anthropic a optimalizovat tak náklady i latenci podle typu dotazu.

Radyz

Radyz publikuje komentáře a praktické texty o AI nástrojích, ChatGPT, Claude a dění kolem OpenAI a Anthropicu. Na webu se soustředí na srozumitelný výklad, vlastní zkušenost a důraz na to, co je pro čtenáře skutečně užitečné.