Open-source projekt TurboFieldfare umožňuje spouštět model Gemma 4 26B-A4B od Googlu na jakémkoli Apple Silicon Macu s pouhými 2 GB RAM. Runtime je napsaný v jazyce Swift a využívá Metal 4 pro akceleraci. Místo načítání celého modelu (14,3 GB) do paměti engine streamuje pouze ty expertní váhy, které jsou potřeba pro každý token, z SSD. Na M2 MacBooku Air s 8 GB RAM dosahuje 5–6 tokenů za sekundu, na M5 Pro až 35 tokenů za sekundu. Projekt obsahuje nativní Mac aplikaci, CLI rozhraní a experimentální OpenAI-kompatibilní server. Autorem je iOS a Metal inženýr Andrey Mikhaylov.

Radyz

Radyz publikuje komentáře a praktické texty o AI nástrojích, ChatGPT, Claude a dění kolem OpenAI a Anthropicu. Na webu se soustředí na srozumitelný výklad, vlastní zkušenost a důraz na to, co je pro čtenáře skutečně užitečné.