Podle obsáhlého článku IEEE Spectrum nabírají malé jazykové modely na síle v rozvojových regionech s nespolehlivým připojením. Modely o několika miliardách parametrů, často vzniklé pruningem nebo distilací, dokážou běžet přímo na telefonu či Raspberry Pi. Světová banka jejich vývoj aktivně podporuje granty a mentoringem – například skener léčiv běžící na Androidu bez připojení k internetu už pomáhá v odlehlých oblastech Afriky.

AI LLM novinky
Radyz