GPU Dシリーズの旗艦モデルはD270
Intelは、推論に最適化したデータセンター向けアクセラレーター「GPU Dシリーズ」を発表しました。シリーズの旗艦モデルは「GPU D270」で、エージェント型AIなどの推論用途を想定しています。
D270は1カードあたり最大480GBのLPDDR5Xメモリーを搭載し、32基のXe3Pコアと256基のXMX Xe3P行列エンジンを備えます。定格電力は350Wで、空冷式です。
Intelは、長い入力文や同時に処理するセッションが増える推論環境を、Dシリーズの想定用途として挙げています。大規模な学習ではなく、稼働中のモデルに入力を処理させ、応答を生成する推論に焦点を当てた設計です。
エージェント型AIでは入力処理と同時実行が増える
エージェント型AIは、依頼に一度応答するだけでなく、情報の検索や計画、ツールの呼び出し、結果の確認などを繰り返す仕組みです。AMDのDan McNamara氏は、こうした一連の処理にはデータベース照会やサンドボックス内のコード実行なども含まれると説明しています。
この流れの中でGPUが担うのは、主にモデルの推論です。AMDの説明では、ホストCPUはGPUに処理を渡し、推論中にGPUを稼働させます。一方、エージェントの制御やツール実行など、処理全体がGPUだけで完結するわけではありません。
IntelはD270について、長い文脈の処理や複数セッションの並行処理、プロンプトの前処理を想定用途に挙げています。エージェント型AIでは一つのタスクが複数回のモデル呼び出しにつながることがあり、これらはDシリーズが想定する推論処理に含まれます。
XMXは行列演算を担うAI向けエンジン
IntelのXe-HPG解説では、XMXは積和演算や行列積演算を高速に処理するための行列エンジンとして説明されています。こうした演算は深層学習の推論で使われる計算の基礎です。
IntelはArcのXe-HPGについて、XMXの推論演算能力は従来型のGPUベクトルユニットの16倍と説明しています。この比較はArc向けXe-HPGの説明に基づくもので、D270の性能値を示すものではありません。
D270にはXMX Xe3P行列エンジンが256基搭載されます。Intelの発表では、D270の実際の推論速度や他製品との性能差は示されていません。
大容量LPDDR5Xと空冷でデータセンター導入を想定
Intelは、D270のLPDDR5Xメモリー容量を最大480GBとしています。長い入力文や複数の同時セッションでは、推論中に再利用する情報を保持するメモリー容量が重要になるとしており、D270を大きな文脈や同時実行を扱う設計と位置付けています。
Micronの推論向けメモリー解説では、HBMは高い帯域幅を担い、LPDDRは低消費電力で容量を拡張する選択肢として整理されています。これはHBMとLPDDRを組み合わせる構成についての説明であり、D270のメモリー構成や性能を比較した結果ではありません。
D270はPCI Express 5.0に対応しています。Intelは標準的なサーバーや既存の空冷設備での導入を想定し、専用ネットワークや液冷設備への改修が不要な構成を特徴に挙げています。
