Projekt STROT odděluje přípravu rozhodovacího postupu od jeho každodenního provozu. Velký jazykový model při kompilaci navrhne štítky, zpracování vstupu a obsluhu jednotlivých akcí. Výsledný Python artefakt potom používá malý rozhodovací model, který třídí, směruje nebo boduje další záznamy bez opakovaného generování odpovědí velkým LLM.

Výstupy mají omezenou strukturu JSON a u málo jistých případů může systém rozhodnutí odmítnout. Součástí přípravy je kontrola na známých příkladech i kalibrace prahu jistoty. Autor zveřejňuje vlastní benchmarky a reprodukční skripty včetně neúspěchů; jejich výsledky nejsou nezávislou zárukou přesnosti pro libovolná data. Základ je pod licencí MIT a výchozí lokální model má 144 milionů parametrů. Lokální provoz neznamená nulové náklady na hardware nebo přípravu.

Radyz

Radyz publikuje komentáře a praktické texty o AI nástrojích, ChatGPT, Claude a dění kolem OpenAI a Anthropicu. Na webu se soustředí na srozumitelný výklad, vlastní zkušenost a důraz na to, co je pro čtenáře skutečně užitečné.