Laut ChainCatcher unter Berufung auf Gelonghui entwickelt Apple Harbor, eine Mac-App, die Apple-Silicon-Computer in private KI-Inferenzserver verwandelt. Mit der App können Nutzer Modelle mit offenen Gewichten herunterladen, verwalten und lokal ausführen, ohne Daten in die Cloud hochzuladen.

Harbor kann außerdem zwei oder mehr kompatible Macs über Thunderbolt 5 verbinden, automatisch einen Cluster erstellen und den gemeinsamen Arbeitsspeicher bündeln, um Modelle auszuführen, die die Kapazität eines einzelnen Computers übersteigen, oder mehr gleichzeitige Anfragen zu bearbeiten. Eine manuelle Konfiguration oder die Nutzung der Kommandozeile ist nicht erforderlich. Apples Software-Tochter Claris führt derzeit eine geschlossene Vorschau durch; ein Termin für die öffentliche Veröffentlichung wurde noch nicht bekannt gegeben.