Projekt Mini-AGI zkouší průběžné učení jazykového modelu na běžně dostupném hardwaru. Podle dokumentace jde o byte-level model, který se trénuje od nuly na jedné grafice s 8 GB VRAM a průběžně si rozšiřuje kapacitu podle dat. Autoři ukládají váhy jako běžné soubory a při práci je podle potřeby načítají do grafické paměti, takže velikost modelu není pevně svázaná jen s kapacitou GPU. Projekt je zatím experimentální a sám ho popisuje jako malý model pro ověření průběžného učení bez katastrofického zapomínání. Váhy ještě nejsou zveřejněné, protože první trénink stále pokračuje. Repo je veřejné a vývojář uvádí, že cílem je umožnit podobné experimenty i na domácím počítači.
