
RadixArkは、Qwen3.8-27Bを基に強化学習を施した同社初のAIモデル「DaisyRose-27B」を公開しました。長時間にわたるエージェントの作業を対象に、144基のH200 GPUと約1200件の訓練タスクを使って18日間学習させています。RadixArkの評価では、Terminal-Bench 4.1のpass@1が元のモデルの5.6%から12.0%に上昇しました。
モデルの構成と提供形式
DaisyRose-27Bは、Qwen3.8-27Bのアーキテクチャーやトークナイザー、チャットテンプレートを引き継いでいます。画像の理解にも対応し、コンテキストウィンドウは25万6000トークンです。学習時には、実行環境側での要約を使い、複数の実行履歴にまたがる最大100万トークンの長いセッションを扱いました。
モデルのチェックポイントはBF16、FP8、NVFP4の3形式で公開されています。ライセンスはApache 2.0です。モデルはHugging Faceからダウンロードできます。
実行環境としてはSGLangと、推測的デコーディングのDSparkが推奨されています。モデルは標準設定で回答前に推論を行い、推論内容と最終回答をそれぞれ別のフィールドで返します。
複数のベンチマークで元モデルを上回る
RadixArkの評価では、掲載された7種類のベンチマークすべてでDaisyRose-27Bが元のQwen3.8-27Bを上回りました。Terminal-Bench 4.1では、タスクごとに8回実行し、要約機能を有効にした独自の実行環境で評価しています。掲載されたスコアには、各ベンチマークについてBF16とFP8の実行結果のうち高い方を使っています。
Terminal-Bench 2.1のスコアは73.0から75.5に上昇しました。コーディング関連のDeepSWE v1.1では42.2から46.2、SWE Bench Pro v2では91.3から94.7となっています。指示追従を測るIFBenchでは79.5から82.4に上がりました。
このほか、テキストのみのHLEは33.9から34.3、GPQA Diamondは89.2から90.7でした。IFBenchでは300件のプロンプトを各4回実行しています。GPQA Diamondでは198問を各8回実行し、回答の選択肢の順序を実行ごとに入れ替えています。
約1200件の訓練タスクを選定
訓練タスクはEigent AIと共同で作成しました。機械学習やソフトウェアエンジニアリング、科学などの分野から数千件の候補を作り、最終的に約1200件を選んでいます。各タスクは元のモデルが犯す誤りを対象に設計されました。
元のモデルを各タスクで動かし、その結果を基に課題を作り直しています。さらに、モデルが学習できる範囲に解答率が収まるよう難易度を調整しました。タスクには相互に依存する複数の段階があり、エージェントは推論、計画、実行を進めます。
各試行には、分離された実行環境で最大1.5時間が割り当てられます。1回の試行では100回を超えるツール呼び出しと、25万6000トークンを超える出力が可能です。意図した問題を解かずに合格できるタスクや設計上の欠陥があるタスクは、修正または除外されました。
推論と学習を並行する訓練基盤
訓練には、RadixArkが開発するオープンソースの強化学習フレームワーク「Miles」を使いました。144基のH200のうち128基がエージェントのタスクで推論を行い、残る16基が実行履歴からモデルを学習します。推論と学習は非同期で並行し、学習ステップごとに更新済みモデルを推論側へ配布しました。
RadixArkは、社内の訓練基盤でGPUのピーク演算能力のうち37%を有効な学習処理に使えたとしています。比較対象のMegatronベースのオープンソース訓練プログラムは、同程度の実行で16%でした。同社は、この比較で同じ訓練に必要なGPU時間を57%削減したとしています。
エージェントがタスクに費やす時間を含めた処理速度は、144基全体で毎秒約1万6800トークンでした。同じGPUを使った比較対象の速度は毎秒約8300トークンです。今回の訓練では合計6万3000 GPU時間を使用しました。
サンドボックスの運用とRadixArkの開発
訓練中の各試行は、コマンドの実行やファイル編集を行えるサンドボックスで実施され、結果が採点されました。このサービスはオープンソースのAgentENVを基に構築されています。9月半ばから11月半ばまでに、このプロジェクトで約94万4000件のサンドボックスを稼働させ、最大同時稼働数は1566件でした。
運用期間の9週間を通じたサンドボックス作成の成功率は99%で、10月下旬以降は99.95%を超えました。RadixArkは、同じサンドボックスを一般的なクラウドのサンドボックス事業者で動かした場合と比べ、クラウド基盤の費用が約80%低かったとしています。各環境のメモリー割り当てを実使用量に応じて増減させ、1台のマシンでより多くの環境を動かす方法を採用しています。
RadixArkはDaisyRose-27Bの開発に加え、Milesの開発も手がけています。Milesでは、タスクの実行履歴を生成し、その結果を使ってモデルを更新した後、更新済みの重みを生成側へ反映します。また、RadixArkは専門分野向けのモデルを構築するチームに、この事後学習の手法を提供する方針です。











