KI ohne Cloud: Apples neue Mac-App verbindet Macs zu einem KI-Cluster

Apple arbeitet offenbar an einer neuen Mac-Anwendung, mit der Nutzer KI-Modelle einfacher auch unabhängig von Cloud-Angeboten auf ihrer lokalen Hardware nutzen können. Das bringt vor allem für Datenschutz und Privatsphäre deutliche Vorteile.

Cluster über Thunderbolt

Eine neue App namens Harbor soll insbesondere das Ausführen großer Sprachmodelle auf Apple-Silicon-Hardware vereinfachen und dabei vollständig auf Cloud-Dienste verzichten. Hinweise auf das bislang unveröffentlichte Projekt hat der Leaker Aaron Perris entdeckt.

Harbor verwandelt einen Mac demnach in einen privaten KI-Inferenzserver, auf dem frei verfügbare Modelle direkt auf der eigenen Hardware laufen. Sämtliche Daten bleiben dabei lokal, eine Übertragung an externe Server ist laut Beschreibung nicht vorgesehen. Damit richtet sich die Anwendung vor allem an Nutzer, die leistungsfähige KI-Systeme betreiben möchten, ohne sensible Informationen aus der Hand zu geben oder laufende Cloud-Kosten in Kauf nehmen zu müssen.

Während es auch verschiedene andere Möglichkeiten gibt, KI-Modelle lokal zu betreiben, bietet Harbor eine entscheidende Neuerung: Die App kann für den KI-Betrieb mehrere Macs miteinander verbinden. Sie soll über Thunderbolt 5 automatisch kompatible Rechner erkennen und zu einem Cluster zusammenschalten. Dabei bündelt die Anwendung deren Unified Memory, sodass ein gemeinsamer Speicherpool für die KI-Berechnungen entsteht. Auf diese Weise lassen sich auch Modelle betreiben, deren Speicherbedarf die Kapazitäten eines einzelnen Macs übersteigt. Zudem soll der Verbund mehrere Anfragen gleichzeitig effizienter bearbeiten können.

Vorkenntnisse nicht nötig

Die Einrichtung soll vergleichsweise unkompliziert ausfallen. Laut der von Perris veröffentlichten Beschreibung erkennt Harbor angeschlossene Geräte selbstständig und übernimmt die Konfiguration des Clusters. Nutzer müssen demnach weder die Kommandozeile bemühen noch über besondere Infrastrukturkenntnisse verfügen. Auch die Verwaltung der KI-Modelle ist direkt in die Anwendung integriert: Modelle lassen sich innerhalb der Software suchen, herunterladen und starten.

Harbor befindet sich derzeit noch in einem geschlossenen Beta-Test. Die Entwicklung erfolgte wohl hauptsächlich bei der Apple-Tochter Claris, die bislang vor allem für ihre Datenbanksoftware FileMaker bekannt ist. Ein öffentlicher Start gilt angesichts der bereits beschriebenen Funktionen als denkbar, Apple hat eine Veröffentlichung bislang allerdings nicht offiziell angekündigt.


Die Entwicklung passt zu einem wachsenden Interesse daran, KI-Modelle direkt auf leistungsfähigen lokalen Systemen auszuführen. Insbesondere Mac mini und Mac Studio bieten mit ihren großen Speicherkonfigurationen eine Alternative zu externen KI-Servern. Mit Harbor könnte Apple diesen Einsatzbereich stärker adressieren und den Aufbau lokaler KI-Infrastruktur erheblich vereinfachen.

Siehe auch: