MaixStation held in one hand, front panel facing out
出典: sipeed.com

128GBメモリーとAX8860Pを採用

Sipeedは、ローカルでAIモデルを動かす小型機「MaixStation」を発表しました。Axera製のAX8860Pを搭載し、128GBのLPDDR5Xメモリーを備えます。メモリー帯域幅は273GB/sで、NPUの公称性能はFP4で256TOPSです。

AX8860Pは16コアのArm Cortex-A55と、Axera独自のNPUを組み合わせたチップです。製造プロセスは6nmで、MaixStationの通常使用時の消費電力は約40Wです。

本体サイズは約11×11×3cmで、USB-Cから給電します。10G SFP+、PCIe 5.0対応のM.2 2280スロット、2台目との接続に使うMCIO 8iコネクターを備えます。構成に応じて、単体から複数台まで接続できます。

年末のKickstarterを予定

Sipeedは、Kickstarterで2026年末に販売キャンペーンを始める予定です。Tom’s Hardwareは、キャンペーン終了後3カ月以内に製品を出荷する見込みだと報じています。

予約では、1台につき30ドルを先払いしてバウチャーコードを受け取り、購入時に100ドルを支援額へ還元する仕組みです。Kickstarter開始前の返金申請は7営業日以内に処理し、開始から48時間以内に使われなかったコードは自動返金するとSipeedは説明しています。

Sipeedは、MaixStationのほか、512GBメモリーを搭載するMaixStation Proや、PCIeカード型のMaixBladeも計画しています。複数台を接続して、より大きなモデルを動かす構成もあります。Tom’s Hardwareが伝えたSipeedの見込み価格は約3,999ドルで、Sipeedの製品ページに掲載された価格とは一致しません。

FP4性能は密計算とスパースを区別

MaixStationの256TOPSは、スパース計算を前提としないFP4の公称値です。NVIDIA DGX SparkのFP4性能は、最大1PFLOPが2:4構造化スパース時、密計算では約500TFLOPSとされています。数値を比べる際は、同じ精度形式に加え、スパースの有無をそろえる必要があります。

DGX Spark向けの公開ベンチマークでは、メモリー転送を伴わない演算器の測定で、密FP4が約511TFLOPS、2:4スパースFP4が約1,022TFLOPSでした。これは計算器のピーク測定で、実際のモデル処理速度をそのまま表す値ではありません。

同ベンチマークは、実際の行列計算ではメモリー帯域が制約となり、演算器のピーク値より低い性能になると説明しています。DGX SparkとMaixStationはいずれもメモリー帯域幅が273GB/sとされていますが、異なるチップの公称演算性能だけでは、同じモデルを動かしたときの速度は比較できません。

NPU向けソフトウェアの提供が焦点

MaixStationはDebian 13とLinux 6.18を搭載する予定です。Sipeedは、vLLM、SGLang、PyTorchに加え、Axeraのソフトウェア環境を通じたONNXやHugging Face形式への対応を挙げています。NPU向けツールチェーンは2026年10月末までに提供する予定です。

AxeraのPulsar2は、ニューラルネットワークをチップで実行できる形式へ変換するコンパイラーです。ONNXモデルを入力し、最適化や量子化、コンパイルを経てAX向けのaxmodelを生成します。

Pulsar2のビルドでは、モデルに加えて量子化用の校正データと設定ファイルを使えます。量子化の校正方式にはMinMax、Percentile、MSE、KLが用意され、変換時の設定を調整できます。Pulsar2の対応ハードウェアにはAX8860が含まれ、説明用のコマンド例はAX650を基にしています。