Yandex Research popsal přístup, který z KV cache dělá víc než jen optimalizaci dekódování. Sdílený stav má umožnit, aby předtrénovaný jazykový model současně přijímal nové informace, pokračoval v uvažování, vydával dílčí akce a reagoval na měnící se prostředí, aniž by se při každé změně vracel na začátek. Výzkumný tým tento princip označuje za problém inference runtime, nikoli nutně za důvod k úpravě vah modelu. V praxi by takový systém mohl obsluhovat asistenty, roboty, živé video nebo hry, kde se pozorování, rozhodování a akce překrývají v čase. Yandex zmiňuje také experimenty s paralelním uvažováním a průběžným vkládáním vizuálních tokenů při hraní Doomu.
