IBM představilo Granite Switch 4.1 ve variantách s osmi a třiceti miliardami parametrů. Modely propojují běžný chat s rozhodovacími úlohami a přepisem řeči přes jediný endpoint. Základ doplňuje obecný rozhodovací adaptér, bezpečnostně zaměřený adaptér Guardian a komponenta Granite Speech 5.0 Turbo CTC.
Architektura využívá aktivované adaptéry LoRA, které mohou sdílet mezipaměť kontextu základního modelu. IBM uvádí, že sestava zabere přibližně tolik paměti grafické karty jako samotný základní model. Vývojáři mohou použít připravenou konfiguraci nebo si složit vlastní z knihovny adaptérů. Ukázková aplikace kombinuje přepis audia, shrnutí a kontrolu obsahu. Podpora zahrnuje vLLM s doplňkem i nativní inferenci v llama.cpp. Srovnání rychlosti a kvality v oznámení pocházejí z testů autorů.
