MicroLLM představuje lokální rozhodovací engine pro úlohy, jako je směrování požadavků, výběr možností a hodnocení vstupů podle stupnice. Místo generování volného textu vrací strukturovaná rozhodnutí a informace o pravděpodobnostech. Projekt kombinuje rychlou větev s malým encoderem a další zpracování obtížnějších případů. Nabízí kalibraci, možnost zdržet se rozhodnutí při nejasném vstupu a rozhraní pro bezpečnostní filtry. Běží na CPU a poskytuje server s HTTP API i Python klienta. Autor zveřejnil vlastní benchmarky a příkazy pro jejich opakování, nejde však o nezávislé ověření výkonu. Deklarované milisekundové latence ani výsledky bezpečnostních testů nelze automaticky přenést na libovolná data. Před nasazením je potřeba ověřit přesnost, latenci a chování při chybách na vlastní úloze.
