Projekt Leviathan představuje prostředí pro provoz jazykových modelů na grafické kartě v počítači s Windows. Vedle chatu popisuje trvalou paměť konverzací a možnost zpřístupnit model dalším programům. Lokální provoz nevyžaduje samostatný modelový server, Python ani cloudový účet. Pro vlastní GPU engine však potřebuje podporovanou kartu NVIDIA a aktuální ovladač.

Model ve formátu GGUF se nejprve převádí do vlastního formátu .lev. Paměť konverzací se ukládá odděleně a starší části se shrnují; dokumentace sama upozorňuje, že shrnutí nezaručuje přesné vybavení všech dávných detailů. Prostředí může připojit také hostované modely, ale v takovém případě zprávy odcházejí jejich poskytovateli. Tvrzení o soukromí se proto vztahuje k lokálnímu režimu, ne automaticky ke každému připojenému modelu.

Radyz

Radyz publikuje komentáře a praktické texty o AI nástrojích, ChatGPT, Claude a dění kolem OpenAI a Anthropicu. Na webu se soustředí na srozumitelný výklad, vlastní zkušenost a důraz na to, co je pro čtenáře skutečně užitečné.