Databricks vydal podrobný návod, jak zvládnout prudce rostoucí náklady na nástroje pro AI kódování. Firma tvrdí, že agentické kódování zlepšilo všechny sledované metriky vývoje, ale náklady rostou exponenciálně a hrozí, že převálcují přínosy. Klíčem je podle ní přechod na levnější modely, dynamické směrování požadavků, rozpočty pro vývojáře a snižování tokenové režie. Vlastní AI Gateway Smart Router podle interních výsledků snižuje průměrné náklady na úlohu o více než třicet procent při zachování kvality. Úpravou nastavení a cache se firmě podařilo zredukovat počet generovaných tokenů téměř o polovinu. Databricks přitom vycházel i ze zkušeností společností Stripe, Coinbase, Uber a Ramp. Část infrastruktury, včetně Omnigentu a AI Gateway, firma uvolnila jako open source.
