Výzkumník Yifan Zhang zveřejnil technickou zprávu o architektuře Recurrent Looped Transformer, která kombinuje kauzální enkodér s rekurentním dekodérem. Model si mezi jednotlivými tokeny přenáší skrytý stav a cache lokální pozornosti, takže jeho výpočetní dráha může s délkou sekvence dále růst. Návrh propojuje latentní uvažování, spolupráci modelu s hardwarem a úpravy trénování pomocí posilovaného učení. Autoři zdůrazňují, že označení nekonečná hloubka neznamená nekonečný výpočet uvnitř jednoho tokenu. Zpráva zatím nepředkládá výsledky, které by potvrzovaly lepší uvažování, úspornější hardware nebo škálování učení. Jde proto hlavně o popis směru dalšího výzkumu, nikoli o hotový model připravený k nasazení.
