Zhutnění kontextu je postup, při kterém aplikace zkrátí dosavadní historii práce s jazykovým modelem a pro další kroky zachová její důležité části, například zadání, rozhodnutí a rozpracované úkoly. Dlouhou historii může nahradit stručným souhrnem nebo vybranými záznamy, aby se práce vešla do kontextového okna. Nezvětšuje tím kapacitu modelu a samo o sobě nevytváří trvalou paměť. Při zkracování se mohou ztratit podrobnosti nebo vazby mezi rozhodnutími; stabilní označení důležitých položek a možnost dohledat původní záznam pomáhají navázat přesněji.
