Mac-App Jan führt freie KI-Modellen von OpenAI lokal aus

Wait 5 sec.

Mit der kostenlosen Anwendung Jan steht Mac-Nutzern eine quelloffene Alternative zu ChatGPT zur Verfügung, die vollständig lokal betrieben wird. Die App ermöglicht den Einsatz sogenannter Large Language Models (LLMs), ohne dass Nutzereingaben über das Internet verarbeitet oder an externe Server übermittelt werden.Die Anwendung lässt sich über die offizielle Projektseite oder GitHub beziehen und wurde nach Angaben des Entwicklerteams bereits über 3,8 Millionen Mal heruntergeladen.Möglich ist auch die Integration von gpt-oss, dem erst kürzlich freigegebenen quelloffenen Sprachmodell von OpenAI. Dieses wurde unter der Apache-2.0-Lizenz veröffentlicht und kann laut Beschreibung auf handelsüblichen Geräten installiert und betrieben werden. Die Entwickler betonen, dass damit unter anderem unbegrenzte Nutzung ohne laufende Kosten sowie eine vollständige Kontrolle über persönliche Daten möglich sei. Nach der einmaligen Einrichtung arbeitet die App vollständig offline.Installation ohne technisches VorwissenDie Nutzung von gpt-oss über Jan erfordert mindestens 16 GB Arbeitsspeicher und etwa 11 GB freien Speicherplatz. Ein leistungsfähiger Prozessor oder eine moderne Grafikkarte beschleunigen die Antwortzeiten, sind aber nicht zwingend erforderlich. Nach dem Download der App muss das gewünschte Modell über den sogenannten „Model Hub“ heruntergeladen werden. Die Installation erfolgt automatisch, sodass auch technisch weniger versierte Anwender keinen manuellen Eingriff vornehmen müssen.Anschließend kann direkt über eine einfache Chat-Oberfläche mit dem gewählten Modell gearbeitet werden. Funktionen wie lokale Dateianalyse, individuelle Erweiterungen sowie die geplante Einführung von Assistenten ergänzen das Angebot. Die App stellt zudem eine lokale Programmierschnittstelle bereit, über die sich Jan in andere Anwendungen integrieren lässt.Offline für 0€/MonatDas Projekt versteht sich als Gegenentwurf zu cloudbasierten Lösungen großer Anbieter. Nach eigener Darstellung legen die Entwickler Wert auf Transparenz, lokale Datenverarbeitung und Konfigurierbarkeit. Alle Inhalte würden auf dem Rechner des Nutzers gespeichert, eine Weitergabe an Dritte finde nicht statt. Zusätzlich könne das Verhalten des Systems über Erweiterungen oder eigene Einstellungen umfassend angepasst werden. Die Nutzung des KI-Modells ist unlimitiert und komplett kostenlos.Der Beitrag Mac-App Jan führt freie KI-Modellen von OpenAI lokal aus erschien zuerst auf ifun.de.