Thinking Machines、594Bパラメーターの「Inkling 2 Small」を発表
出典: thinkingmachines.ai

Tinkerで提供を開始、重みは来週公開予定

Thinking Machinesは2026年11月5日、AIモデル「Inkling 2 Small」を発表しました。利用者は同日から、同社のモデル訓練サービス「Tinker」で推論とファインチューニング(用途に合わせた追加学習)を利用できます。 モデルの全重みは、外部の安全性テストとレッドチームテストを終えた後、Apache 2.0ライセンスで翌週に公開する予定です。

Inkling 2 Smallは、専門家の組み合わせ(Mixture-of-Experts、MoE)方式を採用したモデルです。パラメーターは総計594Bで、各トークンの処理にはそのうち17Bを使います。 テキストに加えて画像を入力でき、推論時の作業量を調整する可変エフォートにも対応します。

Thinking Machinesは、前世代より長い手順を伴う自律作業に強く、画像を見ながらWebサイトやゲーム、3Dデザインを反復して作成・修正できると説明しています。 学習では、複数のエージェント用ハーネスやコンテキスト圧縮の方法を使い、長期にわたるコーディング課題で強化学習を行いました。

指標は知識労働から科学までを評価

Artificial Analysis Intelligence Indexは、モデルの能力を知識労働、コーディング、科学、一般の4分野から評価する複合指標です。v5.0では9種類の評価を使い、4分野にそれぞれ全体の4分の1の比重を割り当てています。 そのため、単一の作業だけでなく、複数分野の評価をまとめて見る指標です。

この指標は改訂に伴って評価項目や尺度が変わります。v5.0のスコアはv4.3.2とは新しい尺度で算出され、両バージョンをそのまま比較できません。 Thinking MachinesもInkling 2 Smallの性能を紹介する際、この指標を使っています。

同社は、コーディング、画像理解、知識労働、推論で前世代から能力が伸びたと説明しています。 また、長い時間をかけて自律的に取り組むコーディングや調査型の作業を、訓練の重点に挙げました。 これらは同社が示すモデルの能力と開発方針であり、指標の総合スコアだけで個々の用途での成績が決まるわけではありません。

NVFP4を事前学習から事後学習まで使用

Thinking MachinesのSoumith Chintala氏によると、モデルの事前学習、中間学習、事後学習には、4ビット浮動小数点形式のNVFP4を使いました。 NVIDIAの説明では、NVFP4はBlackwell世代のGPUで扱える低ビットの数値形式で、値を4ビットで表します。 Inkling 2 Smallの学習では、この形式が全段階で採用されています。

NVFP4は16個の値ごとの小ブロックにFP8形式のE4M3スケールを割り当て、さらにテンソル全体にはFP32のスケールを適用します。 ブロック単位で値の範囲に合わせる仕組みは、高精度形式に比べてメモリーと計算の複雑さを抑えつつ、量子化誤差を小さくすることを狙っています。 NVIDIAはこの形式を推論向けに解説しており、Inkling 2 Smallの学習におけるメモリー削減量や精度への影響は個別の数値で示していません。

Chintala氏は、事前学習にNVIDIAのAI計算基盤「GB300」を使い、68時間かけたと述べています。 事後学習では9日間に1,700万回のロールアウトを行ったとしています。ロールアウトは、モデルに応答や一連の行動を生成させる試行です。

モデルに別のモデルの追加学習を任せる例

Thinking Machinesは、Inkling 2 Smallを使って別モデルの学習を進める例も紹介しました。対象は時系列予測向けに追加学習する「Qwen3.5-4B」で、天候やWikipediaのページ閲覧数などを予測する課題です。

この作業では、Inkling 2 Smallが課題を調べて評価プログラムを作り、学習データを整えたうえで、教師あり学習と強化学習を試しました。 また、学習中の不具合を修正し、結果を確かめながら作業を進めたとされています。 Tinker上で別モデルのファインチューニングをInkling 2 Smallに担わせる使い方を示す事例です。

同社は、Inkling 2 Smallの重みを公開した後、利用者が用途に合わせて調整できるAIモデルの開発を進める方針です。 重みの公開は外部安全性テスト後の予定で、公開時にはチェックポイントもダウンロード可能になるとしています。