Výzkumná laboratoř dlab zahájila Open Source Week zaměřený na provoz pokročilé AI na vlastním hardwaru. Tým chce zveřejnit propojený ekosystém nástrojů pro inference, agentní pracovní postupy a autonomní výzkum, který nebude závislý jen na velkých cloudových laboratořích. Úvodní text popisuje několik směrů, včetně efektivnějšího test-time scalingu, lokálního běhu modelů a automatického zkracování dlouhých kontextů. Autoři uvádějí, že jejich metoda auto-compaction zvládá relace s miliony tokenů a proti běžným postupům může snížit celkové náklady přibližně o polovinu. Jeden z partnerů podle laboratoře naměřil pokles celkového rozpočtu na AI o 45 procent. Jde zatím o oznámení a popis projektu, ne o nezávisle ověřené srovnání všech zmíněných systémů. Smyslem týdne je ukázat, že i univerzitní tým může stavět praktické agentní nástroje a zpřístupnit je komunitě v otevřeném kódu.
dlab otevírá týden open-source AI pro vlastní hardware