120BクラスのLLMを動かす4Lデスクトップ
エムエスアイコンピュータージャパンは、Ryzen AI Max+ 395を搭載するデスクトップPC「PRO MAX EDGE AI+ 11M-008JP」を11月5日に発売します。128GBのユニファイドメモリを備え、最大96GBをGPU用メモリとして割り当てられる構成です。実売予想価格は81万8,000円前後です。
本機は、大規模言語モデル（LLM）をPC内で実行する用途を想定しています。MSIは、量子化モデルで検証した結果、最大120B規模のモデルに対応するとしています。量子化は、AIモデルのデータをより少ないビット数で表現する処理です。
本体は容積4Lで、300Wの電源ユニットを内蔵します。外付け電源アダプターを使わずに設置でき、本体サイズは97.5×188.4×248.5mm、重量は約3.1kgです。
128GBから最大96GBをGPU用に割り当て
ユニファイドメモリは、CPUと内蔵GPUが同じメモリ領域を使う構成です。AMDのVariable Graphics Memory（VGM）は、システムメモリの一部をGPU用の専用メモリとして割り当てる機能です。
VGMで割り当てた分は、OS上で専用グラフィックスメモリとして扱われ、CPUが使えるシステムメモリから差し引かれます。AMDは、まとまったGPU用メモリ領域を確保することで、大容量メモリを前提とするAIアプリケーションを動かしやすくすると説明しています。
本機では最大96GBをVRAMに割り当てられますが、その設定ではCPU側が使えるメモリはその分少なくなります。割り当て量は用途に関係し、AMDはVGMの設定によってシステム性能が低下する場合もあるとしています。
120Bモデルでは形式とコンテキスト長が関係
120Bクラスでも、モデルのデータ形式や会話で扱う文脈の長さによって必要なメモリ量は変わります。たとえばGPT-OSS 120Bの4ビット量子化版では、重みデータだけで約58.3GiBを使います。
同モデルで8Kトークンの文脈を扱う場合、KVキャッシュに約0.3GiBが加わり、推論エンジンにも1〜3GiB程度が必要です。32KトークンではKVキャッシュが約1.13GiBとなり、文脈を長くするほど必要量が増えます。
GPT-OSS 120Bのネイティブ形式MXFP4では、8Kトークンの文脈を含めて約61.1GiBとされています。これらはモデルや実行条件の一例であり、MSIもモデルや指示内容によってVRAM使用量が異なるとしています。
SSDと映像出力、発売価格
標準ストレージは2TBのM.2 NVMe SSDで、M.2 NVMeの空きスロットを1基備えます。LLMなどのモデルを保存でき、ストレージを増設するスロットもあります。
映像出力はHDMI 2.1とDisplayPort 1.4aを備え、最大4画面の同時出力に対応します。USB4は2基、USB 3.2 Gen 2は3基、USB 2.0は2基で、2.5GbE、Wi-Fi 7、Bluetooth 5.4、UHS-II対応SDカードスロットも搭載します。
OSはWindows 11 Proで、メモリはLPDDR5X 128GBです。
