Institute of Foundation Models představil K2 Horizon, rodinu šesti základních modelů od 0,9 do 375 miliard parametrů. Vývojáři zveřejňují nejen váhy, ale také kód, trénovací data a metodiky, takže modely mohou výzkumníci kontrolovat, reprodukovat a upravovat. Vlajkový K2 Horizon 375B-A23B používá řídkou architekturu mixture of experts a pro každý token aktivuje přibližně 23 miliard parametrů. Součástí rodiny je také model 36B-A4B s architekturou Mixture of Value Attention, která má snížit výpočetní nároky při zachování výkonu. Tým uvádí využití pro uvažování, programování, vědu a agentní úlohy. Trénink probíhal na přibližně 20 bilionech tokenů a průběžné kontrolní body i záznamy jsou součástí otevřeného vývoje.
