Mnemonic Proxy funguje jako průhledná mezivrstva mezi programovacím agentem a lokálním nebo OpenAI kompatibilním modelem. Agent může dál posílat celou nezměněnou historii, zatímco proxy rozhoduje, co se skutečně vejde do kontextu. Starší zprávy, volání nástrojů i odpovědi nemaže ani neshrnuje do jedné zkratky. Ukládá je doslova na disk a agent si je může podle potřeby znovu vyžádat. Projekt podporuje rozhraní OpenAI Chat Completions, Anthropic Messages i OpenAI Responses a je napsaný ve standardní knihovně Pythonu. Autor uvádí měření z jedné tříhodinové relace s historií dlouhou 448 tisíc tokenů a také benchmark v okně 32 tisíc tokenů, kde proxy překonala běžné shrnutí. Jde o experimentální nástroj, takže výsledky závisejí na konkrétním modelu, hardwaru a konfiguraci.
