Projekt Locals představuje otevřenou implementaci sdíleného běhu jazykových modelů pro více AI agentů na počítačích Apple Silicon. Místo samostatných kopií modelu pro jednotlivé procesy používá jeden server, průběžné dávkování požadavků a opětovné využití cache společných částí zadání. Kompatibilní klienti se připojují přes rozhraní ve stylu OpenAI.
Autoři slibují až trojnásobné zrychlení při více souběžných agentech a odkazují na vlastní benchmarky i výzkumný článek. Nejde o záruku stejného zrychlení na libovolném Macu, modelu či úloze. Projekt zdůrazňuje také vynucování formátu volání nástrojů a kontrolu opakujících se či paměťově náročných úloh. Míří především na místní programovací agenty a experimenty, kde více úloh opakovaně používá stejné modely a části kontextu.
