Open-source projekt Kairo zkoumá, kdy mohou CUDA Graphs zrychlit obsluhu jazykových modelů na grafice RTX 5090. V první fázi porovnává běh s grafy a bez nich na několika přesně popsaných pracovních zátěžích. U modelu Qwen3.8-27B v kvantizaci NVFP4 naměřil při některých konfiguracích více než dvojnásobnou propustnost, v jiném validním scénáři ale jen 1,3násobné zrychlení. Právě proto projekt nechce zapínat optimalizaci plošně. Výsledek nejdřív prochází kontrolou správnosti a do běhové politiky se dostane pouze pro přesně změřený profil. Když požadavek neodpovídá žádnému ověřenému měření, Kairo se uzavře do ručního režimu. Autoři projekt popisují jako výzkumnou dílnu, nikoli jako náhradu za vLLM nebo jiné produkční inference enginy.
