Replay Doctor je lokální nástroj pro hledání tichých výpadků prompt cache při práci s AI agenty. Z přečtených přepisů na disku se snaží určit konkrétní krok, ve kterém se kontext znovu načetl, popsat pravděpodobnou příčinu a vyčíslit tokeny účtované znovu za cenu zápisu. Projekt uvádí ukázku z 119 relací a 1 881 agentních běhů na jednom stroji: 42,9 milionu tokenů bylo podle jeho výpočtu znovu načteno a 199,77 dolaru představovalo náklad, kterému se dalo předejít. Autoři upozorňují, že nejde o předpověď trhu ani reprezentativní průzkum. Nástroj pracuje lokálně pro macOS a Linux a podle popisu nic neodesílá. Hodit se může hlavně týmům, které provozují měřené API, automatizované běhy nebo větší počet podagentů.
Replay Doctor hledá drahé výpadky prompt cache