Sixfabは、DEEPXのNPU「DX-M1M」を搭載したRaspberry Pi 5向けAI HAT+を販売しています。25 TOPSの推論性能を備え、NPUの持続動作時の消費電力は約3 Wです。画像認識に加え、小型の視覚言語モデルや言語モデルを端末内で動かす構成を、Raspberry PiとDEEPXが紹介しました。
約3 Wで動かす端末内AI
25 TOPSはNPUの演算性能を示す値で、約3 WはNPU単体の一般的な持続消費電力です。Raspberry Pi 5本体やカメラ、ストレージなどを含むシステム全体の消費電力ではありません。実際の電力や温度は、接続する機器や処理内容、冷却方法を含めて測定する必要があります。
NPUはニューラルネットワークの計算を受け持ち、Raspberry Pi 5のCPUはカメラ処理、アプリケーションの制御、通信などを担います。これにより、カメラ映像を使うAI処理を端末内で続けながら、ホスト側で結果に応じた処理を行う構成が可能です。
CNNから小型言語モデルまで
利用例の一つが、画像から物体や状況を検出するCNN（畳み込みニューラルネットワーク）です。物体検出、分類、領域分割、姿勢推定などに対応し、DEEPXのModelZooにはYOLO系の検出モデルや姿勢推定モデルなどが用意されています。DX-Streamを使うと、GStreamerを基盤とするカメラ処理の流れを組み立てられます。
視覚言語モデル（VLM）は、画像の認識結果に文脈を加え、場面の説明や画像についての質問への回答に使うモデルです。小型言語モデル（SLM）は、利用者の指示を解釈したり、端末内の出来事を要約したりする用途が示されています。Raspberry PiとDEEPXは、認識、状況の説明、指示への応答を端末内でつなぐ使い方を挙げています。
Raspberry Pi 5で測定した処理性能
Raspberry PiとDEEPXは、8 GBメモリー搭載のRaspberry Pi 5で、出荷版ソフトウェアを使った測定値を公開しました。DX-M1Mでは、240×240画素のMobileNet V2が毎秒2,361フレーム、512×512画素のDeepLabV3+が毎秒155フレームでした。
言語モデルQwen3-1.7Bの測定では、入力96トークン時の初回出力までの時間（TTFT）が599.04ミリ秒、生成速度が毎秒4.64トークンでした。同じ比較に掲載されたDX-M1は、MobileNet V2で毎秒3,223フレーム、DeepLabV3+で毎秒231フレーム、Qwen3-1.7BでTTFT 544.58ミリ秒、毎秒11.60トークンです。両モジュールはメモリーの種類が異なり、DX-M1はLPDDR5、DX-M1MはLPDDR4Xです。
Hailo搭載製品とはモデルとソフトウェアが異なる
Raspberry Pi公式のAI HAT+は、Hailo-8LまたはHailo-8を搭載し、視覚AIモデルを動かします。公式のソフトウェア手順ではHailo用のドライバーやランタイムなどを導入し、AI HAT+にはhailo-allを使います。
一方、SixfabのAI HAT+はDEEPXのDX-M1Mを搭載し、DX-COMで対応するONNXモデルを最適化・コンパイルして、.dxnn形式で実行するソフトウェア環境です。紹介されている対象にはCNNのほかVLMやSLMも含まれます。なお、Raspberry Pi公式のAI HAT+ 2はHailo-10Hを搭載し、視覚AIに加えてLLMやVLMなどの生成AIモデルに対応します。
Raspberry PiとDEEPXが示したDX-M1Mの約3 Wという値は、NPUの一般的な持続消費電力です。Hailo搭載製品との電力を同じ条件で比べた数値ではありません。
導入手順と用途
SixfabのソフトウェアはRaspberry Pi OS上でAPTから導入でき、付属のサンプル実行やdxtopによるNPUの稼働状況の確認が案内されています。独自モデルを使う場合は、対応するONNXモデルをDX-COMでコンパイルし、DX-RTのC++またはPython APIから実行します。
用途としては、3Dプリンターの異常検出、玄関カメラの状況識別、製造ラインの監視、ロボットの画像認識などが挙げられています。いずれもカメラ映像の認識と、その結果に基づくアプリケーション側の処理を端末内で組み合わせる例です。
この構成は、常時稼働するセンサーやカメラの近くで、対象を絞った推論を行う用途を想定しています。広い知識や非常に長い会話履歴を必要とする処理、継続的な学習には、クラウド推論の方が適するとRaspberry Piは説明しています。25 TOPS版はSixfabから販売中で、13 TOPS版は2026年末ごろの発売予定です。
