Generální ředitel IBM Arvind Krishna při zveřejnění čtvrtletních výsledků popsal výrazné zmenšení rozdílu mezi otevřenými a uzavřenými AI modely. Tvrdí, že modely s otevřenými vahami dnes mohou nabídnout přibližně devadesát procent účinnosti špičkových systémů za deset až pětadvacet procent jejich tokenových nákladů. Nejde o univerzální nezávislý benchmark, ale o jeho hodnocení podnikových úloh. U shrnování e-mailů, kontroly smluv nebo zákaznické komunikace proto očekává větší zájem o vlastní infrastrukturu. Užitečné nasazení se podle něj může vejít do dvou či tří serverových racků. Překážkou však zůstávají odborné znalosti pro sítě, rozmístění GPU a cache. IBM chce tento provoz zjednodušit softwarem; levnější model tedy sám o sobě neodstraňuje náklady na zavedení.

Radyz

Radyz publikuje komentáře a praktické texty o AI nástrojích, ChatGPT, Claude a dění kolem OpenAI a Anthropicu. Na webu se soustředí na srozumitelný výklad, vlastní zkušenost a důraz na to, co je pro čtenáře skutečně užitečné.