Výzkum KAIST a Naver AI Lab ukazuje, že modely mají v interních reprezentacích rozlišitelné vzorce pro různé kroky řešení matematických úloh. Tým sledoval osm operací, například získání údajů, rozklad problému, vybavení vzorce, dedukci a výpočet, u modelů Qwen2.5-7B, Qwen3-8B a Gemma4-31B. Nejvýraznější rozdíly se objevily ve středních vrstvách. Klasifikátor pracující s interními reprezentacemi byl přesnější než systém sledující jen použitá slova, takže výsledek nelze vysvětlit pouze povrchovým zněním odpovědi. Signál přetrval i u chybných řešení a replikoval se na Llama-3-8B. Studie je omezená na matematické úlohy, přesto naznačuje cestu k lepšímu sledování toho, co se v modelech děje během generování.

Radyz

Radyz publikuje komentáře a praktické texty o AI nástrojích, ChatGPT, Claude a dění kolem OpenAI a Anthropicu. Na webu se soustředí na srozumitelný výklad, vlastní zkušenost a důraz na to, co je pro čtenáře skutečně užitečné.