図2 一般的な技術とNTT技術の比較
出典: group.ntt

NTTは、検査対象のソースコードを外部のAIサービスに送信せず、脆弱性を解析する技術を開発しました。AIの脆弱性解析能力を測る評価では、既存手法の成功率48%に対し、改良手法は63%となり、15ポイント向上しました。

複数のAIモデルと解析手順を組み合わせる

この技術は、複数のオープンウェイトモデルと、NTT独自の解析技術、解析の進め方を制御する技術を組み合わせたものです。オープンウェイトモデルは、学習済みの重みを利用できるAIモデルです。組織が自ら管理する環境で解析でき、検査対象のソースコードを外部のAIサービスに送らずに済みます。

NTTは、組織がAIの選択や運用を自ら管理できる「ソブリン性」と、高度な解析能力の両立を目指しています。外部の高性能なAIサービスを使う場合には、機密情報の送信や利用コスト、特定サービスへの依存が懸念されます。

脆弱性は、ソフトウェアに存在するセキュリティ上の弱点です。NTTは、発見だけでなく、組織ごとのリスクに応じた判断や対処までを一貫して支援する技術の実現を目指しています。研究成果はNTT R&D FORUM 2026に展示される予定です。

研究で蓄積した着眼点をAIに与える

一般的なAIによる脆弱性発見では、プログラムを読み解き、脆弱性の可能性について仮説を立てたうえで検証します。AIはこうした一連の作業を自律的に繰り返し、並列して大量に実行できます。解析能力はモデル自体の性能に加え、作業の手順や検証に使うツールにも左右されます。

NTTは、脆弱性研究で蓄積した知見を基に、弱点が生じる可能性についてAIに着眼点を与える手引きを作りました。この手引きを解析のワークフローに組み込み、AIエージェントによる解析の進め方を改良しました。AIエージェントは、与えられた目的に向けて作業を進めるAIの仕組みです。

NTTは従来、検査対象への入力を繰り返し変え、異常な動作から脆弱性の候補を見つける技術も研究してきました。今後は、この解析技術との連携も進める計画です。解析能力と必要な計算資源のバランスを考慮し、組織が管理する環境で利用しやすい技術への発展も目指します。

メモリ破壊に関する150課題で評価

NTTは、AIエージェントの脆弱性解析能力を測るベンチマーク「CyberGym」を使って評価しました。約1500件の課題から、メモリ破壊に関する150件を選び、既存の解析手順と改良手法を比較しました。メモリ破壊は、プログラムが扱うメモリの内容が不正に書き換わる問題です。

この評価で、解析成功率は既存手法の48%から改良手法の63%に上がりました。NTTは、モデルの性能だけでなく、解析の進め方を工夫することで能力を高められたとしています。規模の異なるオープンウェイトモデルを用いた評価では、中規模モデルを組み合わせることで性能が向上する可能性も確認したとしています。

CyberGymには、188のソフトウェアプロジェクトに由来する1507件の課題があります。基本となる評価では、AIエージェントに脆弱性の説明と修正前のコードを渡し、弱点を再現する検証用の入力を生成させます。生成した入力が修正前の版では問題を引き起こし、修正後の版では引き起こさないかを実行して確かめます。

従来の解析で生じる警告と見極め

ソースコードを実行せずに調べる静的アプリケーションセキュリティテストは、規則やパターンなどを使って問題の可能性がある箇所を検出します。開発の早い段階から利用できますが、検出結果だけでは脆弱性が確認されたことにはなりません。実際には悪用できない箇所を問題として示す誤検知や、実在する脆弱性の見逃しも起こり得ます。

静的解析では、メソッドやファイルをまたぐ複雑な処理の流れを追うことが難しい場合があります。動的な設定や生成されたコードなども、解析の対象範囲に影響し得ます。検出結果を確認し、内容に応じて優先順位を付ける作業が必要です。

脆弱性が見つかった後も、自組織のシステムに影響するかを見極め、対処の必要性や優先順位を判断する必要があります。外部では日々多くの脆弱性が公表されますが、そのすべてが各組織のシステムに影響するわけではありません。NTTは、発見から判断、対処までの迅速化を研究課題としています。

組織ごとの影響判断と対処も支援へ

NTTは、脆弱性情報とシステム構成を照合し、影響を受ける箇所や優先して対処すべきリスクを絞り込むAI技術を研究開発する計画です。システムの運用状況や業務への影響も考慮し、対処を支援するとしています。自ら発見した脆弱性と、外部で公表される脆弱性の双方への対応を想定しています。

これらの技術を連携させ、従来は専門家が個別に行ってきた発見、判断、対処を一貫して支援する方針です。NTTは、実際にリスクを低減するまでにかかる時間と負担の削減につなげるとしています。自ら管理する環境で高度なAIを活用できる技術の展開も進めます。