AppleがMac向けAI実行アプリ「Harbor」を開発、Thunderbolt 5で複数台を連携

Appleが、Mac上でAIモデルを動かすアプリ「Harbor」を開発しています。Apple製チップを搭載したMacでの実行に加え、複数台をThunderbolt 5で接続し、メモリをまとめて大きなモデルを扱う機能を備えます。現在はAppleのClarisブランドで非公開プレビューの段階です。

Harborの情報は、未公開機能などの情報を発信するAaron Perris氏が公開しました。同氏は、データを手元のハードウェアにとどめ、クラウドへ送らずにAIを実行するアプリだとしています。

モデルの取得から複数Macの接続までをアプリで操作

Harborは、AIモデルに入力を与えて結果を生成する「推論」を、Macで処理するためのアプリです。アプリ内でモデルを探し、ダウンロードして読み込めるほか、モデルの管理もできます。

複数台で使う場合は、高速接続規格のThunderbolt 5に対応したMacを2台以上つなぎます。Harborが接続されたMacを自動検出し、複数のMacを一体として動かす「クラスター」を構成する仕組みです。Perris氏は、手動設定や、文字で操作するコマンドライン、インフラに関する専門知識を必要としないとしています。

連携に使うのは、CPUとGPUが共有するユニファイドメモリです。Harborは各Macのメモリを一つの推論用リソースとして扱い、1台の容量を超えるモデルの実行や、同時に処理する要求数の拡大に対応する設計です。

対象は学習済みパラメーターを公開するモデル

Harborが扱うのは「オープンウェイトモデル」です。ウェイトとは、AIが学習によって獲得し、入力から出力を生成する際に使うパラメーターを指します。オープンウェイトモデルでは、その学習済みパラメーターをダウンロードなどで利用できます。

オープンソースAIは、ウェイトに加え、学習や実行に使うコード、学習データに関する情報など、システムを調査・改変するための広い公開範囲を伴います。一方、オープンウェイトモデルの商用利用、改変、再配布などの条件は、それぞれのライセンスや利用規約によって決まります。

この違いは、Harborで動かすモデルにも関わります。オープンウェイトという区分は学習済みパラメーターを利用できることを表し、商用サービスへの組み込みや再配布まで一律に認めるものではありません。

既存ツールもモデル管理とローカルサーバーに対応

Macでモデルを取得・管理し、手元で推論する機能は、既存のOllamaやLM Studioにもあります。Ollamaはモデルのダウンロードや実行プロセスを管理するツールで、LM Studioは画面上でモデルを検索し、取得して会話を試せるデスクトップアプリです。

Ollamaでは、モデルの実行コマンドを初めて使う際にダウンロードも行われ、取得済みのモデルやメモリに読み込まれたモデルを一覧で確認できます。LM Studioでは、検索画面からモデルをダウンロードし、読み込んで会話を始められます。

両ツールは、別のアプリからモデルを呼び出すための接続口であるAPIも備えています。Ollamaはバックグラウンドサービスとして動作し、LM StudioはアプリのDeveloperタブ、またはコマンドからローカルサーバーを起動できます。Harborには、こうしたモデルの取得・管理に加え、Thunderbolt 5経由で複数のMacを自動検出し、連携させる操作が組み込まれています。

分散推論では接続帯域と処理の分け方が関わる

Harborのように複数のMacでモデルを扱う構成では、Mac間で計算結果を受け渡します。Appleの機械学習向けフレームワーク「MLX」には、モデルの層を複数のMacに分け、前半の処理結果を後半へ送るパイプライン並列化などの仕組みがあります。

Thunderbolt 5によるMac間接続と、Mac内部のメモリでは帯域に差があります。Tinker AI Labの検証構成は80Gbpsの接続を使い、Mac StudioのM3 Ultraは819GB/sのユニファイドメモリ帯域を備えます。MLXの分散推論は高速なMac間通信を利用し、macOS 26.2で導入された、Thunderbolt 5経由で低遅延のメモリアクセスを行うRDMAドライバーにも対応しています。

Appleの検証では、パイプライン並列化による生成処理は各層を順番に評価するため、生成速度はおおむね1台の場合と同程度でした。一方、長い入力を小分けにして複数台で重ねて処理する構成では、入力処理を速める結果も得られています。