Cloudflare uvolnil v AI Gateway veřejnou betu nástroje Auto Router, který automaticky vybírá model pro jednotlivé požadavky. Uživatelé jej mohou zapnout volbou cloudflare/auto. Router nejprve vyřadí modely, které požadovaný formát nebo způsob spuštění nepodporují, a zohlední dostupné účty, přístupová pravidla i limity výdajů. Poté klasifikační model na Workers AI zařadí požadavek do jedné ze 14 kategorií a ohodnotí jeho složitost, nejednoznačnost, důležitost a závislost na předchozím kontextu. Výběr kombinuje odhad kvality s cenou vstupních a výstupních tokenů. Cloudflare uvádí, že při interním testu v prostředí OpenCode snížil náklady až o 30 procent oproti používání pouze nejvýkonnějších modelů, například OpenAI Sol a Claude Opus. Jde o výsledek interního testu firmy, nikoli nezávislé srovnání. Služba je zatím ve veřejné betě.

Radyz

Radyz publikuje komentáře a praktické texty o AI nástrojích, ChatGPT, Claude a dění kolem OpenAI a Anthropicu. Na webu se soustředí na srozumitelný výklad, vlastní zkušenost a důraz na to, co je pro čtenáře skutečně užitečné.