ChainCatcherがGelonghuiを引用して報じたところによると、Appleは、Appleシリコン搭載コンピュータをプライベートなAI推論サーバーに変えるMacアプリ「Harbor」を開発しています。このアプリを使うと、データをクラウドにアップロードすることなく、オープンウェイトモデルをローカルにダウンロード、管理、実行できます。

Harborは、Thunderbolt 5経由で互換性のある2台以上のMacを接続し、クラスターを自動的に構築してユニファイドメモリをプールすることもできます。これにより、1台のコンピュータの容量を超えるモデルを実行したり、より多くのリクエストを同時に処理したりできます。手動での設定やコマンドラインの使用は必要ありません。Appleのソフトウェア子会社Clarisが現在、非公開プレビューを実施しており、一般公開の時期は発表されていません。