Podle obsáhlého článku IEEE Spectrum nabírají malé jazykové modely na síle v rozvojových regionech s nespolehlivým připojením. Modely o několika miliardách parametrů, často vzniklé pruningem nebo distilací, dokážou běžet přímo na telefonu či Raspberry Pi. Světová banka jejich vývoj aktivně podporuje granty a mentoringem – například skener léčiv běžící na Androidu bez připojení k internetu už pomáhá v odlehlých oblastech Afriky.

AI LLM novinky
Radyz

Radyz publikuje komentáře a praktické texty o AI nástrojích, ChatGPT, Claude a dění kolem OpenAI a Anthropicu. Na webu se soustředí na srozumitelný výklad, vlastní zkušenost a důraz na to, co je pro čtenáře skutečně užitečné.