Startup Base Compute představil BaseRT, inference runtime navržený pro lokální běh AI modelů na Apple Silicon. Nástroj umožňuje nasadit model jediným příkazem a spouštět jej přímo na zařízení bez nutnosti API klíčů nebo odesílání dat do cloudu. Cílí na vývojáře, kteří chtějí integrovat AI do svých aplikací při zachování soukromí uživatelů. BaseRT podporuje kvantizované modely a optimalizace pro Neural Engine v čipech M4, což umožňuje dosáhnout srovnatelného výkonu s cloudovými službami u vybraných úloh. Projekt je součástí rostoucího trendu lokálního AI zpracování, který reaguje na obavy o soukromí a náklady na cloudovou inferenci.
