GGUF je souborový formát pro ukládání AI modelů určených k použití v kompatibilních výpočetních nástrojích. Uchovává váhy modelu i popisné údaje potřebné pro jeho načtení. Často se s ním setkáš při spouštění jazykových modelů na vlastním počítači, včetně jejich kvantizovaných variant. Kvantizace snižuje přesnost čísel, zatímco GGUF určuje, jak jsou údaje zapsány v souboru; nejde tedy o totéž. Samotná přípona .gguf nezaručuje kvalitu, bezpečnost ani ověřený původ modelu.
