Muse Spark Openの規模と公開形態
Metaは10月15日、重みを公開する大規模モデル「Muse Spark Open」を発表しました。総パラメーター数は8160億、推論時に使うアクティブパラメーターは420億で、100万トークンのコンテキストウィンドウを備えます。
Metaは同モデルを、米国発のオープンウェイトモデルとして最も高性能だと位置づけています。テキストや画像などを扱うネイティブなマルチモーダルモデルで、コーディングやエージェント型の作業、長期にわたるタスク、複雑なソフトウェア開発、複数段階の推論を想定しています。
モデルの重みはHugging Faceで公開され、API経由でも複数の推論サービスから利用できます。重みの利用条件にはMuse Model Licenseが適用され、商用利用には限定的な条件があります。
M5 Ultra搭載Mac Studio 2台でローカル実行
Muse Spark Openは、Appleのオープンソース機械学習フレームワーク「MLX」を使い、M5 Ultra搭載のMac Studio 2台で動かせるよう最適化されています。デスクトップ上でエージェント型機能を使えるモデルです。
M5 Ultraの統合メモリーはMac Studio 1台あたり最大512GBで、2台を組み合わせるとモデル全体を保持できます。チップのメモリー帯域幅は毎秒1.2TBで、各トークンの生成に必要なデータを読み込む構成です。
2台のMac Studioを、合計1TBの統合メモリーを持つ1台の計算機のように扱います。MLXはApple Silicon向けのフレームワークで、CPUとGPUが同じメモリー上のデータを使う仕組みを備えています。
コーディングや動画編集での利用例
Metaは、Muse Spark Openを基盤にした「Muse Code」を使い、端末内だけで動作するエージェント型ワークフローを試しました。例として、オープンソースのMastodonクライアント「Ice Cubes」の不具合修正、新機能の追加、ビルドを挙げています。
Metaは動画編集ソフト「DaVinci Resolve」を一連の作業で操作する例も示しました。モデルが映像をフレーム単位で確認し、見どころを選んで縦型に切り抜く作業を行ったとしています。
これらはMetaが実施したワークフローの例です。
推論環境とカスタマイズ
Muse Spark OpenはApple Silicon以外の環境でも利用でき、SGLang、vLLM、TensorRT-LLM、Hugging Face Transformers、llama.cpp、Unslothなどの推論エンジンに対応しています。最適化対象にはAMD、Apple、Intel、NVIDIAの各種シリコンが含まれます。
Metaは、SGLang向けに自動調整可能なHelion GPUカーネルを用意しました。Metaの計測では、カーネル単位でNVIDIAおよびAMD GPUに1.03〜3.95倍の速度向上があり、AMD MI350ではエンドツーエンドで3％の速度向上が得られたとしています。
開発者はPyTorchのTorchTitanを使ってモデルを追加調整できます。ローカル実行にはMLXを使い、Hugging Faceから重みを取得できます。
