Mit TurboFieldfare steht ein neues Open-Source-Projekt bereit, das ein großes Sprachmodell auf vergleichsweise knapp ausgestatteten Macs ausführt. Die speziell für Apple-Prozessoren entwickelte Laufzeitumgebung soll Gemma 4 26B-A4B mit rund zwei Gigabyte Arbeitsspeicher betreiben können.Das Projekt stammt vom iOS- und Metal-Entwickler Andrey Mikhaylov. Die Anwendung, die Kommandozeilenwerkzeuge und die eigentliche Rechenumgebung wurden in Swift und Metal umgesetzt. TurboFieldfare setzt nicht auf bestehende Lösungen wie MLX oder llama.cpp, sondern ist gezielt auf das verwendete Gemma-Modell zugeschnitten.KI-Modellteile werden von der SSD nachgeladenDie Modelldaten benötigen insgesamt rund 14,3 GB Speicherplatz. Würden diese vollständig in den Arbeitsspeicher geladen, wäre das Modell auf Macs mit 8 GB oder 16 GB RAM kaum sinnvoll nutzbar. Neben den KI-Komponenten benötigen schließlich auch macOS, laufende Anwendungen und der Zwischenspeicher des Sprachmodells Platz.TurboFieldfare hält deshalb nur den gemeinsam genutzten Modellkern und den sogenannten KV-Cache dauerhaft im Arbeitsspeicher. Weitere Modellbereiche werden abhängig von der jeweiligen Berechnung von der SSD nachgeladen. Dabei handelt es sich um spezialisierte Teilnetze, von denen pro verarbeitetem Textbaustein nur eine Auswahl benötigt wird.Da SSD-Zugriffe deutlich langsamer als Zugriffe auf den Arbeitsspeicher sind, verwendet die Software einen kleinen Zwischenspeicher für häufig benötigte Modellteile. Während neue Daten von der SSD gelesen werden, führt die Grafikeinheit bereits andere Berechnungen aus. Auf diese Weise lassen sich Teile der Wartezeit überdecken.Spannender Ansatz mit praktischen GrenzenDamit zeigt das Projekt vor allem, dass sich ein Modell dieser Größenordnung überhaupt auf einem Mac mit 8 GB RAM ausführen lässt. Für längere Texte oder eine schnelle Unterhaltung ist die Ausgabe auf den Basismodellen allerdings eher gemächlich. Zudem hängt die Leistung stark von der Geschwindigkeit der internen SSD und dem verfügbaren Dateicache ab.TurboFieldfare ist damit weniger als allgemeiner Ersatz für etablierte Laufzeitumgebungen wie MLX oder Ollama zu verstehen. Auf Macs mit ausreichend Arbeitsspeicher bleiben diese Lösungen in der Regel flexibler und einfacher einzusetzen. Interessant ist TurboFieldfare vor allem als spezialisierter Ansatz für Geräte, auf denen ein großes Modell sonst gar nicht oder nur mit erheblichen Einschränkungen laufen würde.Google Gemma 4 auf dem Mac: Lokale KI erstellt Code, Grafiken und TexteZum Projekt gehören eine native Mac-App, eine Kommandozeilenversion und ein experimenteller lokaler Server mit teilweise OpenAI-kompatibler Schnittstelle.Beim ersten Start lädt die Anwendung rund 15 GB Modelldaten von Hugging Face und wandelt diese direkt in ein eigenes Format um. Voraussetzung sind ein Mac mit Apple-Prozessor und macOS 26. Aktuell verarbeitet TurboFieldfare ausschließlich Text. Versionen für iPhone und iPad sollen folgen.The post Lokale KI: Freie App bringt Googles Gemma 4 auch auf das MacBook Neo first appeared on ifun.de.