Maia 300でAI推論を自社チップへ
Microsoftは第3世代のAIアクセラレーター「Maia 300」を発表し、利用者からのAI処理要求に応じる推論で、自社製チップを主力にする方針です。推論は、学習済みのモデルが入力に応じて回答などを生成する処理です。MicrosoftはこれまでNVIDIA製GPUへの依存が大きく、Azureで使う半導体の構成を広げます。
Maia 300の生産は2027年に始まる予定です。Microsoftはデータセンターの1ラックに96個のMaia 300を搭載する計画で、Maia 200の2倍に当たります。同社によると、1ラック当たりの処理トークン数は最大7倍になり、電力当たりのトークン数もGPU比で40％増えます。
Microsoftの技術フェロー、ジム・クリーワイン氏は、Maia 300によってMicrosoft 365 Copilotの一部処理が速くなると述べました。導入規模について、同社のスコット・ガスリー上級副社長は複数ギガワット級を目標に挙げましたが、ゼネラルマネジャーのアリスター・スピアーズ氏は具体的な時期を明らかにしていません。
学習と推論で異なるチップの使い方
AIのモデル学習は、モデルの開発やアルゴリズムの研究に使われます。一方、推論は、完成したモデルを本番環境で動かし、利用者の要求に応答させる処理です。NVIDIAは、学習と推論を深層学習の異なる運用形態として扱い、研究向けと大規模な本番推論向けでデータセンターの構成例を分けています。
NVIDIAは、GPUサーバーが学習と推論の双方に使われることや、サーバー当たりの性能と電力効率を高められることを説明しています。MicrosoftはAzureの推論処理にMaiaを増やし、モデル学習には引き続き他社製アクセラレーターを組み合わせます。
スピアーズ氏は、モデルに合った半導体を適切な時期に導入するため、選択肢を残していると述べました。Microsoftは汎用処理向けに自社製CPUのほか、IntelとAMDの半導体も利用しています。Microsoftは、MaiaでNVIDIA製品を一律に置き換えるのではなく、処理内容に応じて自社製と外部製を使い分ける方針です。
AWS Trainiumはクラウド経由で提供
AWSのTrainiumは、学習と推論の両方を対象に設計されたAIチップです。AWSはチップだけでなく、サーバー、ネットワーク、ソフトウェア、サービスを組み合わせて提供しています。AWSによると、Neuron SDKを通じてPyTorchなどの開発環境を利用できます。
AWSはTrainiumを搭載したインスタンスやUltraServerを顧客に提供しており、AnthropicやDatabricksなどを利用企業として挙げています。Trainium3は最大144個のチップを搭載するUltraServerとして示され、さらに大規模なUltraClusterにも拡張できるとしています。Microsoftは自社データセンター内の推論処理にMaiaを使う方針です。
MicrosoftはMaiaを、Amazon TrainiumやInferentia、Google TPUのような他社向けの時間貸しでは提供していません。AWSはTrainiumをクラウドのインスタンスやサーバー群として提供し、MicrosoftはまずAzure内部のワークロードに自社チップを組み込みます。
NVIDIA製品も引き続き採用
MicrosoftはMaiaの導入を進める一方、モデル学習ではNVIDIAやAMDと協力するとしています。同社のサーバーにはすでにNVIDIA製GPUがあり、OpenAIやAnthropicのモデル学習にも使われています。
マイクロソフトCEOのサティア・ナデラ氏は7月、Maia 200について、同社が保有する最新世代のハードウェアより1ドル当たりの性能が30％高く、OpenAIのモデルを処理していると説明しました。この数値はMaia 200についての発言で、Maia 300の性能値ではありません。
Evercore ISIのアナリストは、MaiaのAIチップ支出に占める割合が2027年第1四半期に約10％になると予測しました。これはアナリストの予測で、Microsoftが示した確定値ではありません。Microsoftは導入時期に柔軟性を持たせる考えも示しています。
