Den 25 september släppte Ollama version 0.40.0-rc0. Bokstäverna ”rc” betyder att det är en förhandsversion som testas inför en stabil lansering.
På Macar med Apple-chip, som M1, M2 och senare, ska Ollama nu automatiskt använda MLX för de modeller som stöds. MLX är Apples öppna verktyg för maskininlärning på de egna chippen. Tidigare kunde valet av teknik bakom körningen kräva mer kunskap eller särskilda versioner.
Det här betyder inte att alla modeller plötsligt blir snabbare. Stödet gäller ännu bara vissa modelltyper, och Ollama skriver att fler ska provas under testperioden. Den som är beroende av en stabil installation behöver alltså inte skynda sig att uppdatera.
Det intressanta är riktningen: lokal AI blir mer användbar när programmet själv kan välja en lämplig motor. Mindre tid på inställningar ger mer tid till att faktiskt jämföra modeller, skriva och skapa på den egna datorn.