ASUSは10月16日、AIプロセッサ「Hailo-10H」を搭載する「UGen300」シリーズなどを発売しました。USB接続の8GBモデルは実売4万9,800円で、PCのメインメモリを使わずにローカルで生成AIを処理できます。
UGen300はUSB接続とM.2接続の3モデル
USB接続モデル「S-UGEN300-8GLD4-TC」は8GBのLPDDR4メモリを内蔵し、USB 3.2 Gen 2 Type-Cで接続します。実売価格は4万9,800円です。
M.2接続のUGen300には、8GB LPDDR4搭載モデルが4万5,980円、2GB LPDDR4X搭載モデルが2万9,980円で用意されています。いずれもHailo-10Hを採用します。
シリーズはWindowsとLinuxに対応し、x86とArmの両アーキテクチャで利用できます。Android対応は法人向けに限られ、UGen UtilityやGitHubを通じて150種類以上の事前学習済みモデルとサンプルコードが提供されます。
INT4とINT8では同じTOPSでも条件が異なる
UGen300のHailo-10Hは、INT4で最大40TOPS、INT8で最大20TOPSの推論性能を持ち、標準消費電力は2.5Wです。TOPSは1秒あたりの演算回数を示す指標で、INT4とINT8は計算に使う数値のビット幅を表します。
比較対象のUGen200はHailo-8Lを搭載し、INT8で最大13TOPS、標準消費電力1.5Wです。UGen300の40TOPSとUGen200の13TOPSは異なるビット幅の数値のため、そのまま性能差として比べることはできません。同じINT8で比べると、仕様値は20TOPSと13TOPSです。
INT4とINT8の値の違いは演算精度の設定に関わります。
生成AIから画像認識まで対応
UGen300は画像認識や映像解析に加え、大規模言語モデル（LLM）、画像と言語を扱う視覚言語モデル（VLM）、音声認識ソフトウェアWhisperを実行できます。ASUSはUGenを、ノートPCや組み込みボード、エッジシステムでローカル推論に使う小型アクセラレータシリーズと位置づけています。
UGen200は物体検知、画像分類、人物追跡などのビジョンAI処理を対象にしたモデルで、価格は2万4,980円です。
Hailo-10Hは、LPDDR4の専用メモリを2GBまたは8GB搭載し、LLM、VLM、Whisperを含む生成AIモデルに対応します。UGen300の2モデルもそれぞれ2GBと8GBを備え、PCのメインメモリを消費せずAI処理を実行する構成です。
外付けアクセラレータが合う構成
PC内蔵NPUはプロセッサの一部として搭載されるのに対し、Hailo-10HはホストPCに追加する独立型アクセラレータです。UGen300では、USB接続モデルとM.2接続モデルを選べます。
Geniatechは、すでにNPUを搭載するPCではそのNPUを活用できる一方、AI処理を別の低消費電力アクセラレータへ分担させる構成も選択肢に挙げています。同社は、Hailo-10Hの消費電力はアクセラレータ単体の値であり、一般的なPCプロセッサ全体の消費電力とは異なると説明しています。
Geniatechは、既存のx86環境を活用する用途と、Armまたは組み込み環境にAI処理を追加する用途を分けて検討しています。UGen300はx86とArmの両方に対応し、USBまたはM.2で接続できるため、既存PCや組み込みボードにローカルAI処理を追加できます。
