I en uppdatering den 29 juni beskrev Ollama hur Gemma 4 kan köras snabbare med stöd för Apples MLX och en metod där en mindre modell föreslår kommande text, som huvudmodellen sedan kontrollerar.
Du behöver inte kunna tekniken för att förstå poängen: datorns arbete kan organiseras smartare. Det kan göra en modell trevligare att använda utan att varje förbättring kräver ny hårdvara.
Ollamas hastighetssiffror gäller särskilda tester på en viss dator. De säger alltså inte hur snabbt det kommer att gå på just din Mac, och stödet beror på modell och programversion.
För den som är nyfiken på lokal AI är det ändå en uppmuntrande riktning. Utvecklingen handlar både om vad modeller klarar och om hur tillgängliga de blir i vardagen. Ett projekt som kändes segt tidigare kan vara värt ett nytt försök efter en relevant uppdatering.