NVIDIAは、複数の関連テーブルを直接扱う予測モデル「Kumo Relational」を公開しました。タスクごとの学習やテーブルの手動統合をせずに予測でき、41のベンチマーク課題で教師あり学習モデルを上回ったと報告されています。論文では、前身モデルから事前学習データと対応規模を拡張した「KumoRFM-2」として説明されています。
関連テーブルを保ったまま予測
顧客、注文、商品などの情報は、実際の業務データベースでは複数のテーブルに分かれ、外部キーで結び付いています。Kumo Relationalは、こうした関係を一つの表へ集約せず、テーブルや時刻情報を保ったまま処理します。
予測したい内容は、Predictive Query Language（PQL）という宣言型の形式で指定します。モデルは予測対象に関係するデータと、正解が分かっている過去の例をコンテキストとして受け取り、推論時に最大1万件の例を使います。
時系列を扱う課題では、基準時点より前のデータから予測し、その後に起きた事象を正解ラベルとして使います。過去のデータ状態を再現することで、未来の情報が予測入力に混ざるのを防ぎます。
41課題で既存モデルと比較
評価はRelBench V1・V2、SAP SALT、4DBInferに含まれる、15の関係データベース上の41課題で行われました。対象分野は電子商取引、医療、企業、ソーシャル、学術で、評価用データは事前学習に使われていません。
分類と回帰の両方で、Kumo Relationalは関係データ向けの深層学習モデルや、専門家が特徴量を設計した勾配ブースティング系モデルを上回ったと報告されています。SAP SALTでは、AutoGluonのアンサンブルに対して平均逆順位（MRR）で8％上回り、ファインチューニング後の差は16％になりました。
MRRは、各検索課題で最初の正解が現れる順位の逆数を求め、その平均を取る指標です。正解が1位ならスコアは1、2位なら0.5となり、正解が上位にあるほど値が高くなります。
テーブル内とテーブル間で情報を処理
モデルはまず、各テーブルの列と行をそれぞれ見て、予測に関係する値や項目を処理します。その後、主キーと外部キーによるつながりをたどり、異なるテーブルの情報を結び付けます。
この段階では、各セルをすべて組み合わせるのではなく、行ごとの表現を使って関係を計算します。複数の既知例と予測対象の間も比較し、たとえば顧客の属性と取引履歴を関連付けます。
モデルの学習には、合成データと実データを含む大規模なコーパスが使われています。テーブル内の行・列に加えて、データベース間の外部キー関係や複数サンプル間の情報も学習軸です。
利用形態と適用上の条件
Kumo Relationalは、NVIDIAのGPUネイティブなオープンソースライブラリ「structured-data-models」と、推論用のNVIDIA NIMで提供されています。ライブラリはPython 3.11以降とPyTorch 2.7以降に対応し、PyPIからインストールできます。
NIMを利用する場合は、Kumo Relational Clientから推論エンドポイントへ予測リクエストを送信します。扱える予測形式には、分類・回帰、将来期間の数値を出す予測、関連する対象を順位付けするリンク予測があります。
関係性や時間変化に意味があるデータでは、性能を発揮しやすいとされています。一方、非常に大きな学習データを持つ課題では、最大1万件のコンテキスト例を使う推論より、タスク専用の教師ありモデルが優れる場合があります。この場合に利用できるよう、ファインチューニングも用意されています。
