Xtriever je nový retrieval engine pro aplikace typu RAG, který má běžet přímo na iPhonu, Androidu i běžném notebooku bez serveru a síťového připojení. V jedné pipeline kombinuje lexikální vyhledávání BM25, husté vektory z modelu MiniLM, fúzi pořadí a cross-encoder pro nové seřazení výsledků. Projekt je napsaný v Rustu a nabízí rozhraní pro Rust, Python, Swift i Kotlin. Autoři chtějí, aby všechny platformy vracely stejné výsledky a skóre, s výjimkou drobných rozdílů v posledních bitech při běhu na jiném procesoru. Ukázkové aplikace prohledávají zjednodušenou Wikipedii s přibližně 240 tisíci článků a 428 tisíci pasážemi. Xtriever zatím není publikovaný v běžných balíčkovacích registrech a část plánovaného learned rankeru zůstává nedokončená.

Radyz

Radyz publikuje komentáře a praktické texty o AI nástrojích, ChatGPT, Claude a dění kolem OpenAI a Anthropicu. Na webu se soustředí na srozumitelný výklad, vlastní zkušenost a důraz na to, co je pro čtenáře skutečně užitečné.