Nejpoužívanější open-source nástroj pro lokální běh jazykových modelů se dočkal první oficiální verze. Projekt llama.cpp, který v roce 2023 založil vývojář Georgi Gerganov, vyšel jako v0.1.0 s prvním formálním releasem v historii. Knihovna v jazyce C++ spouští modely ve formátu GGUF na běžných procesorech i grafických kartách, včetně počítačů Apple s čipy M-series, a stojí za většinou lokálních AI aplikací, jako jsou Ollama nebo LM Studio. Za tři a půl roku existence nasbíral projekt na GitHubu přes 124 tisíc hvězdiček a stal se standardem pro běh modelů bez cloudu. První oficiální release přichází v době, kdy lokální modely jako Qwen 3.8 27B běží i na notebooku, a potvrzuje pozici llama.cpp jako základu komunity lokálního AI.
