Commit-Aware Router je raný open-source prototyp směrování požadavků mezi jazykovými modely s ohledem na firemní smlouvy. Vedle ceny, kvality, latence a dostupnosti zvažuje také předplacenou kapacitu, minimální odběry nebo obchodní limity. Cílem je omezit situace, kdy jednotlivý levný požadavek vede k horšímu celkovému výsledku, protože jiná již zaplacená kapacita zůstane nevyužitá. Detailní smlouvy a finanční prognózy mají zůstat u zákazníka; router dostává krátkodobý autentizovaný signál s omezeným vlivem. Požadavky aplikace na schopnosti, spolehlivost, umístění dat a bezpečnost mají mít přednost. Projekt s licencí Apache 2.0 proto neprosazuje automaticky jednoho dodavatele, ale ukazuje, jak spojit práci platformního týmu s finančním plánováním.

Radyz

Radyz publikuje komentáře a praktické texty o AI nástrojích, ChatGPT, Claude a dění kolem OpenAI a Anthropicu. Na webu se soustředí na srozumitelný výklad, vlastní zkušenost a důraz na to, co je pro čtenáře skutečně užitečné.