NVIDIA、AI推論のメモリー圧迫に圧縮と階層化で対応

NVIDIAは、AI推論のメモリー効率を高めるため、GPUのHBM(高帯域幅メモリー)に加えて、CPUメモリーやストレージ、ソフトウェアを組み合わせる設計を示しました。モデルの重みとKVキャッシュが限られたHBMを取り合うため、データを圧縮し、使用頻度に応じて保存先を分けます。
好奇心が、日常をおもしろくする

NVIDIAは、AI推論のメモリー効率を高めるため、GPUのHBM(高帯域幅メモリー)に加えて、CPUメモリーやストレージ、ソフトウェアを組み合わせる設計を示しました。モデルの重みとKVキャッシュが限られたHBMを取り合うため、データを圧縮し、使用頻度に応じて保存先を分けます。

NVIDIAのワークステーション向けGPU「RTX PRO 5500」は、中国企業からの大規模な注文に対し、今後数カ月に納入されるのは数万基程度になる見通しです。注文の約1%に相当するとされ、需要に対して供給が大きく不足しています。

AIクリエイターのニック・サラエフ氏は、NVIDIAの小型AIコンピューター「DGX Spark」を7台注文しようとした後、Amazonにアカウントを閉鎖されたと明かしました。Amazonのメールは本人確認の手続きに触れましたが、閉鎖の理由は示していません。Epic Gamesのティム・スウィーニーCEOも、NVIDIA製GPUを2台購入しようとした後、通常の注文が到着予定日の直前に取り消されたと述べています。

NVIDIAのGeForce RTX 20・30・40シリーズを対象に、Tensor演算の速度制限を解除するオープンソースのUEFIツール「nv-uefi-unlocker」が公開されました。Windowsの起動前にUSBメモリーから実行でき、開発者のRTX 4060 LaptopではFP16演算の性能が解除前より65%向上しました。

DXVK-NVAPI 0.9.3が公開され、DirectX Raytracing(DXR)のOpacity Micromaps(OMM)と、Vulkanゲーム向けのNVIDIA Reflex代替実装に対応しました。Steam PlayのProtonを使ってWindowsゲームをLinux上で動かす際に、NVIDIAの機能を扱うための互換レイヤーです。

米情報機関が、Nvidiaのジェンスン・フアンCEOと接点のあったシンガポール企業Megaspeedの幹部、アリス・フアン氏を約1年間監視していたとされています。同氏は中国政府の情報活動に関与した疑いを持たれ、Nvidia製AIチップの中国への不正転売を巡る調査対象企業にも所属していたとされています。Nvidiaは同氏との関係や情報流出への懸念を否定しています。

NVIDIAは、音声認識モデル「Nemotron 3.5 Transcribe」を公開しました。40言語の文字起こし、31言語と英語の間の翻訳、13言語での話者識別に対応し、会議の発言記録から音声内容への質問まで同じモデルで処理できます。
GeForce RTX 20・30・40シリーズの一部で、ファームウェアの脆弱性を利用し、AI向け行列演算の速度制限を解除する非公式プロジェクトが公開されています。RTX 4090ではFP16のピーク演算率が約2倍になった一方、実際の処理速度の伸びは用途によって小さく、チャットボットの応答速度はほぼ変わらないと報告されています。

AmazonはAI向けのNvidia製サーバーラックを、設置先のデータセンターが稼働する前に受け取り、倉庫に保管しています。GPUを調達しても、電力や施設が整わなければ稼働できません。AIインフラの拡張には、機器の購入以外にも条件が必要です。

NVIDIAのジェンスン・フアンCEOは、2029年までにメモリーが供給過剰になる兆候は見ていないとCNBCに語りました。AI向け需要が続くとの見方を示す一方、メモリー関連株は供給増への懸念から下落しており、供給と需要の見通しが市場の焦点になっています。
NVIDIAは2026年10月21日、ベルリンで開いた技術カンファレンス「GTC Berlin」の基調講演で、フォルクスワーゲン商用車部門の自動運転車「ID. Buzz AD」を紹介しました。同車はNVIDIAの自動運転プラットフォーム「Hyperion」を採用し、複数の自動運転システムに対応する車両基盤として披露されました。
NVIDIAが、AMD製GPUやGoogleのTPUをクラウドサービスに加えた一部のneocloud事業者に対し、GTC Berlinへの参加を認めなかったと報じられています。この報道はSemiAnalysisの情報に基づいています。

NVIDIAは、複数の関連テーブルを直接扱う予測モデル「Kumo Relational」を公開しました。タスクごとの学習やテーブルの手動統合をせずに予測でき、41のベンチマーク課題で教師あり学習モデルを上回ったと報告されています。論文では、前身モデルから事前学習データと対応規模を拡張した「KumoRFM-2」として説明されています。

中国の修理店に、電源コネクターが溶損したNVIDIA製GPUが2日間で7枚持ち込まれました。いずれもカード側の端子と12+4ピンケーブルの接続部分に焼損があり、RTX 5090が大半を占めています。12+4ピン端子は高出力GPUへの給電に使われ、接点の状態が電流や発熱に関わります。

Googleは、PyTorchを自社のAI向けチップ「TPU」で動かすソフトウェア基盤「TorchTPU」をオープンソースとして公開しました。PyTorchは、AIモデルの開発、学習、実行に使われるオープンソースのツールキットです。AIアプリの約85%で使われているとの推計もあり、対応ハードウェアが増えると、開発者が実行環境を選びやすくなります。

ブラジルの販売会社オデルソが、Zotac製GeForce RTX 5090を積んだ2パレットがサンパウロのグアルーリョス国際空港で行方不明になったと公表しました。 貨物の仕入れ額は約250万レアルで、約47万ドル(約7,400万円)に相当します。

ボルボはNVIDIAとの提携を拡大し、今後の車両に自動運転向けのセンサー・コンピューター基盤「Hyperion」、運転ソフトウェア「Alpamayo」、安全評価の仕組み「Halos」を組み合わせます。都市部の道路や高速道路での走行を想定したシステムで、電気自動車に限らず、プラグインハイブリッド車やガソリン車にも展開する方針です。

AppleとNVIDIAが、トランプ大統領のホワイトハウス舞踏室計画にそれぞれ2,500万ドルを拠出すると約束しました。両社は、判明している寄付額の中で最大規模の拠出者です。
中国のテクノロジー企業は、AI計算能力の不足を補うため、NVIDIAのゲーミング向け・ワークステーション向けGPUを1年間に100万基以上購入したと報じられています。背景には、国内のAI向け半導体生産が拡大している一方で、大手企業の需要をまかなえていない状況があります。

Microsoftは第3世代のAIアクセラレーター「Maia 300」を発表し、利用者からのAI処理要求に応じる推論で、自社製チップを主力にする方針です。推論は、学習済みのモデルが入力に応じて回答などを生成する処理です。MicrosoftはこれまでNVIDIA製GPUへの依存が大きく、Azureで使う半導体の構成を広げます。

GeForce RTX 5090に使われるGPUダイ「GB202」について、消費者向けカードへの供給を止め、データセンター向けとプロ向け製品に専用化するとの情報が報じられました。実現すれば、RTX 5090の新規供給が細り、在庫の減少に伴って入手性や価格に影響する可能性があります。
NVIDIAのスタートアップ支援プログラム「NVIDIA Inception」に参加する4社が、乳がんの画像撮影、リスク評価、治療選択を支えるAIを開発・提供しています。自動超音波検査や病理画像による再発リスク予測など、検診から診断後の治療までを対象とし、臨床で使われている製品と研究段階の機能が含まれます。

Microsoftは、NVIDIAのRTX Sparkを搭載するノートPC「Surface Laptop Ultra」の予約を始めました。価格は2,599ドルからで、出荷は10月16日に始まります。最大128GBの統合メモリーと、最大1ペタフロップのAI性能を掲げる構成を用意し、PC上で大規模なAIモデルを動かす用途を想定しています。

SpaceXが、NVIDIA製AIプロセッサーの購入に向けて400億ドル(約6兆円)の資金調達を検討していると報じられました。案では銀行融資と投資適格債を組み合わせ、2027年の成立を見込んでいます。協議は初期段階で、実現は確定していません。調達額は、購入対象とされるVera Rubin世代のラック構成や、AIインフラ投資で広がる資金調達方式とあわせて報じられています。

NVIDIAは、自動運転車向けに開発してきた安全技術を、工場や倉庫などで人とともに働くロボットにも広げています。2026年6月に発表した「Halos for Robotics」は、ハードウェア、ソフトウェア、センサー処理を組み合わせ、ロボットの安全機能を開発・運用するための基盤です。

OpenAIの年率換算売上高が9月末時点で約500億ドルに達したと投資家に伝えられ、NvidiaやOracleなどの株価が下落しました。先月広まった680億ドルという数字には、パートナー経由の売上高も含まれていたとされ、今回の数字とは集計範囲が異なります。年率換算値は一定期間の売上ペースを1年分に換算した推計で、確定した年間売上高とは異なります。