アルトマン氏が示したDRAMの配分論
OpenAIのサム・アルトマンCEOは、家庭のPCに搭載されたDRAM（データを一時的に保存するメモリー）が使われない時間に、データセンターで活用する方がよいとの考えを示しました。メモリー供給が限られるなか、個人所有のPCとクラウドのどちらにDRAMを割り当てるかという議論につながる発言です。
YouTube番組「Cheeky Pint」のインタビューで、アルトマン氏は、世界の限られたDRAMが各自のPCに置かれ、利用率が5％にとどまる状態は「世界全体の配分から見て、かなりひどい」と述べました。クラウドで最大限に稼働させる方が、供給制約のある状況に適しているという主張です。
同氏は、エネルギーや供給、生産のコストが今後下がることを望み、コスト低下には供給の大幅な増加が必要だとも語りました。
クラウド側に集まるメモリー
DRAMは、PCやスマートフォンなどで使われる半導体メモリーです。メモリー企業のサムスン電子とSKハイニックスは、クラウド事業者やOpenAIの「Stargate」などの計画と長期契約を結び、今後数年間の生産量の多くが確保されています。
データセンター事業者によるメモリーへの多額の投資が、ノートPCやスマートフォンなどの値上がりにつながっています。
ただし、データセンターで共有する仕組みは、家庭のPCにあるメモリーをそのままクラウドへ移すこととは異なります。サーバー間での共有には、接続方式や遅延、性能を保つための制御が関わります。
CXLによるサーバー間のメモリー共有
CXL（Compute Express Link）は、プロセッサーとメモリー装置などをつなぐ規格です。CXLを使うメモリープーリングでは、複数のサーバーが共有メモリーを利用でき、各サーバーの必要量に応じた割り当てを目指します。
研究システム「Pond」は、CXLを介して共有メモリーへロード・ストア命令でアクセスする設計です。メモリーを共有プールに置きながら、仮想マシンには静的に割り当てます。CXL 2.0ではスイッチを介してホストがプール内の装置にアクセスでき、装置の容量を複数ホストで分けて使う方式も説明されています。
Pondの評価では、158種類のワークロードを用い、DRAMコストを7％削減しながら、同一NUMAノードのメモリー割り当てに対する性能差を1〜5％に抑えました。一方、同研究はプールを大規模に広げるほどアクセス遅延が増えると見積もり、8〜16ソケット程度の小規模なプールで利点の多くを得られるとしています。こうした仕組みはサーバー内の資源を融通する技術であり、家庭用PCのDRAMをデータセンターで使う方法を示したものではありません。
利用率だけでは決まらないメモリー配分
サーバーの仮想化環境では、割り当て済みメモリーのうち使われていない部分を回収する仕組みも研究されてきました。ESX Serverの「アイドルメモリー税」は、利用中のページよりアイドル状態のページを回収しやすくする方式です。
同方式では、メモリーが不足した際に、割り当ての全量を使っていないクライアントから優先してページを回収します。利用者が後から多くのメモリーを使い始めた場合には、割り当てを上限まで増やします。既定の税率は75％で、未使用メモリーの多くを回収しつつ、利用量が急増した場合に備える余裕も残します。
この仕組みが扱うのは、サーバー上で管理される仮想マシンの割り当てです。CXLのプーリングにも、サーバー間の接続や遅延を考慮したシステム設計が必要です。そのため、メモリーが使われていない時間の長さだけで、家庭のPCとデータセンターのどちらに置くべきかが決まるわけではありません。
