Vývoj umělé inteligence se poslední roky točí hlavně kolem jedné otázky: který model je chytřejší. Každých pár měsíců dostaneme nový benchmark, další procenta navíc a ujištění, že tentokrát už je model zase o pořádný kus schopnější. Jenže při každodenní práci s AI agenty člověk poměrně rychle narazí na problém, který další body v benchmarku samy nevyřeší. Agent může být výborný programátor, analytik nebo výzkumník, ale po ukončení relace často začne příště prakticky od začátku.
Právě na tento problém míří nový open-source nástroj Funes od Hugging Face. Nejde o další jazykový model ani konkurenci pro Claude Code nebo Codex. Funes se snaží vytvořit něco možná méně efektního, ale pro dlouhodobou práci mnohem důležitější: společnou a trvalou paměť, kterou mohou používat různí AI agenti.
A právě to může být jeden z důležitějších kroků k tomu, aby se z dnešních agentů staly skutečně dlouhodobě použitelné pracovní nástroje.
Každý nový chat a všechno znovu
Představme si poměrně běžnou situaci. Několik dní pracujeme s Codexem na aplikaci. Agent projde dokumentaci, vyzkouší několik způsobů implementace, dva z nich skončí slepou uličkou a u třetího nakonec společně zjistíme, proč funguje. Během práce vznikne spousta informací, které nejsou nikde v samotném kódu. Proč jsme určitou knihovnu nepoužili, proč jsme změnili strukturu databáze nebo proč zdánlivě elegantnější řešení způsobovalo problémy.
Za několik týdnů se k projektu vrátíme třeba přes Claude Code. Kód samozřejmě pořád existuje. Git historie také. Jenže velká část procesu, který k výsledku vedl, je pryč. Nový agent projekt vidí prakticky poprvé a klidně začne zkoušet stejnou slepou uličku, kterou předchozí agent už dávno prošel.
Funes se pokouší právě tento ztracený kontext zachovat. Podporuje historii relací z Claude Code, Codexu, Hermes a agenta pi a převádí ji do jedné společné paměti. Agent pak může během práce vyhledat například důvod staršího rozhodnutí, předchozí chybu nebo řešení problému, který už někdo jednou vyřešil.
Kontextové okno není paměť
Mohlo by se zdát, že problém vyřeší stále větší kontextová okna modelů. Pokud model zvládne zpracovat stovky tisíc nebo milion tokenů, prostě mu nahrajeme všechno.
Jenže to není příliš elegantní ani efektivní řešení. Několikaletá historie projektu může obsahovat obrovské množství textu, výstupů nástrojů a dávno nepodstatných diskusí. Posílat celý archiv při každém dotazu by bylo podobné, jako kdyby zaměstnanec před každým pracovním úkolem musel znovu přečíst kompletní firemní e-mailovou schránku od svého nástupu.
Funes proto funguje jinak. Staré relace indexuje a při hledání kombinuje sémantické vyhledávání s klasickým textovým vyhledáváním BM25, výsledky dále přerovnává a zohledňuje také jejich stáří. Agent tak nemusí dostat kompletní historii. Dostane jen části, které mohou být relevantní pro právě řešený problém. Samotné embeddingy a reranking přitom mohou běžet lokálně na počítači uživatele.
Je to drobný architektonický rozdíl, který ale mění celé pojetí paměti AI. Nemusíme zvětšovat pracovní stůl tak dlouho, až na něj vysypeme celý archiv firmy. Stačí mít dobrý archiv a umět v něm rychle najít správnou složku.
Důležitější je možná něco jiného: paměť patří uživateli
Na Funes je podle mě nejzajímavější něco, co na první pohled vypadá jako technický detail. Paměť není navázaná na konkrétního AI poskytovatele.
Dnes jsme zvyklí na paměť ChatGPT, projekty v Claude nebo historii konkrétního coding agenta. Každá služba si postupně buduje vlastní svět a čím více v něm pracujeme, tím složitější může být přechod jinam.
Funes obrací tento model naruby. Claude Code může dnes vytvořit určitou informaci a Codex ji může příští týden znovu najít. Později lze použít jiný model a paměť zůstává stejná. Hugging Face ji popisuje jako dataset, který vlastní uživatel, nikoliv jako službu, ke které si uživatel pronajímá přístup. Lokální paměť lze také synchronizovat přes Hugging Face Hub, přičemž nově vytvořené repozitáře jsou ve výchozím stavu soukromé.
Tohle může být do budoucna zatraceně důležité. Modely budou přicházet a odcházet, ceny se budou měnit a dnes nejlepší model může být za půl roku jen průměrný. Pokud ale několik let budujeme pracovní historii uvnitř jedné platformy, její hodnota může být časem větší než hodnota samotného modelu.
Logičtější svět proto možná nebude vypadat tak, že máme „svého AI asistenta“. Budeme mít vlastní dlouhodobou paměť a nad ní budeme podle potřeby měnit modely.
Agent, který zná historii firmy
Dnes se o AI agentech často mluví jako o digitálních zaměstnancích, jenže tato analogie má jednu poměrně zásadní trhlinu. Skutečný zaměstnanec si po několika letech ve firmě pamatuje, proč se určité věci dělají právě takto. Ví, které řešení už někdo zkoušel, které problémy se pravidelně opakují a proč zdánlivě nelogické rozhodnutí ve skutečnosti dává smysl.
AI agent bez dlouhodobé paměti o většinu této výhody přichází.
Pokud ale začne několik let ukládat historii rozhodnutí, může vzniknout úplně jiný druh systému. Agent nemusí znát pouze aktuální dokumentaci. Může dohledat, proč firma před dvěma lety změnila dodavatele, proč programátoři opustili určitou technologii nebo proč marketingový tým přestal používat konkrétní postup.
Hugging Face dokonce zmiňuje možnost sdílené paměti týmu. Nový člen by tak nemusel dostat pouze současný stav projektu, ale mohl by přes svého agenta vyhledávat také historii rozhodnutí a slepých cest, které se do běžné dokumentace nikdy nedostaly.
A tady už nejde pouze o programování. Stejný princip dává smysl prakticky všude, kde AI agent pracuje dlouhodobě. Výzkum, marketing, účetnictví, nákup, správa infrastruktury nebo zákaznická podpora mají přesně stejný problém: velká část firemního know-how není v databázi, ale v historii toho, co lidé udělali a proč to udělali.
Paměť ale umí uchovat i staré chyby
Dlouhodobá paměť samozřejmě neřeší všechno. Naopak vytváří několik nových problémů.
Informace, která byla správná před rokem, dnes správná být nemusí. Firma může změnit technologii, pravidla nebo dodavatele. Pokud agent nekriticky vytáhne staré rozhodnutí a začne se podle něj řídit, dostáváme pouze sofistikovanější způsob, jak opakovat zastaralé informace.
Funes se tento problém alespoň částečně snaží řešit tím, že při ukládání nevyrábí z jednotlivých relací nějakou definitivní databázi „faktů“. Uchovává původní text a původ informace. Výsledek vyhledávání tak může ukázat, ze kterého agenta, relace a konkrétního místa informace pochází.
Další otázkou jsou samozřejmě citlivá data. Historie AI agentů může obsahovat části kódu, hesla, API klíče nebo interní informace firmy. Funes při indexování a před publikováním paměti na Hugging Face používá detekci a odstranění přihlašovacích údajů a dalších tajných údajů. Ani tak ale nedává smysl považovat podobný systém za bezrizikový. Čím hodnotnější bude dlouhodobá paměť agentů, tím zajímavějším cílem bude také pro útočníky.
Možná nepotřebujeme každý měsíc geniálnější model
Funes je zatím relativně malý open-source projekt a rozhodně není jisté, že právě tento nástroj bude za několik let standardem. Zajímavý je hlavně princip, který ukazuje.
Velká část současného vývoje AI se stále měří inteligencí jednotlivého modelu. Jenže při skutečné dlouhodobé práci může být rozdíl mezi modelem, který vyřeší devadesát procent úloh, a modelem, který vyřeší devadesát dva procent, méně důležitý než rozdíl mezi agentem, který pokaždé začíná od nuly, a agentem, který zná několik let historie projektu.
Skutečně užitečný AI pracovník totiž nemusí být každé ráno o něco chytřejší než včera. Mnohem praktičtější by bylo, kdyby si alespoň pamatoval, co sakra dělal včera.
A jestli se podaří oddělit tuto paměť od samotných modelů, může to změnit ještě jednu věc. Nebudeme tolik řešit, jestli používáme Claude, Codex, Gemini nebo nějaký budoucí open-source model. Model bude jen výměnný motor. To nejcennější, roky zkušeností, rozhodnutí a historie práce, zůstane naše.
