TopicBase

好奇心が、日常をおもしろくする

#ローカルAI

PFN、53言語対応の翻訳LLM「PLaMo 3 Translate」をオープンウェイトで公開

Preferred Networks(PFN)は、翻訳特化型の大規模言語モデル「PLaMo 3 Translate」をオープンウェイトで公開しました。最小の0.8Bモデルはスマートフォンなどでも動作し、ネット接続なしで53言語間を翻訳できます。 端末や社内サーバーで処理を完結できるため、翻訳に使う文章を外部サーバーへ送らずに運用できる点が特徴です。

MSI、128GBメモリと電源を内蔵した4LミニPCを11月5日発売

エムエスアイコンピュータージャパンは、Ryzen AI Max+ 395を搭載するデスクトップPC「PRO MAX EDGE AI+ 11M-008JP」を11月5日に発売します。128GBのユニファイドメモリを備え、最大96GBをGPU用メモリとして割り当てられる構成です。実売予想価格は81万8,000円前後です。

Project Maya v1.1.28、DeepSeekの単一GPUデコードを最大約2倍高速化

ローカルで大規模言語モデルを動かすソフトウェア「Project Maya」が、最新版v1.1.28を公開しました。LinuxでNVIDIA GPUを1枚使う環境では、DeepSeek-V4.1-Flash-1017の生成処理がGeForce RTX 3090で最大約2倍、Tesla V100で14%速くなりました。

LattePanda Sigma 2、Arc B390搭載のSBCを2,599ドル(約41万円)で予約販売

LattePandaは、Intel Core Ultra X7 358HとArc B390を搭載するシングルボードコンピュータ「LattePanda Sigma 2」を発表しました。最大64GBのメモリを備え、35B級の大規模言語モデル(LLM)のローカル実行を想定しています。予約販売価格は2,599ドル(約41万円)で、販売期間終了後は2,799ドル(約44万円)です。

3値化LLM「Ternary Bonsai 2」に2B・4B・9Bモデル

PrismMLは、言語モデル「Ternary Bonsai 2」シリーズに、パラメータ数が20億、40億、90億の3モデルを追加しました。モデルの重みを「-1、0、+1」の3値で表すことで、元になったQwen3.5の各モデルより容量を9分の1以下に抑えています。

Sipeed、AX8860P搭載のローカルAI小型機「MaixStation」を発表

Sipeedは、ローカルでAIモデルを動かす小型機「MaixStation」を発表しました。Axera製のAX8860Pを搭載し、128GBのLPDDR5Xメモリーを備えます。メモリー帯域幅は273GB/sで、NPUの公称性能はFP4で256TOPSです。

Comfy Desktop、複数のComfyUI環境を管理するデスクトップアプリ

Comfy Desktopは、生成AIエンジン「ComfyUI」の導入や複数環境の管理を行うデスクトップアプリです。モデルの読み込みから生成、保存までをノードで組み立てるComfyUIの使い方と、対応OSや導入条件を紹介します。

1250億パラメーターのQwenモデルを家庭用PCで動かす「Strata」

Strataは、Qwen3.8-Flash-Nextを一般的なWindows・Linux搭載PCで動かすオープンソースソフトです。RTX 5070やRadeon RX 9070 XTを使った測定では、設定により回答生成が毎秒44〜94トークンに達しました。モデル全体をGPUメモリーに載せず、PCのメインメモリーやSSDにも処理を分担させる仕組みです。

iPhoneに処理を分散する「Backburner」、MacのローカルAIでプレフィルを29〜44%高速化

Macで動かすローカルAIの処理をiPhoneに分散するツール「Backburner」が、GitHubで公開されました。Qwen3.8-27B IQ4_XSを使った条件では、16〜48kトークンの入力処理が29〜44%高速化し、24GBメモリのMacで保持できるコンテキストも64kから128kトークンへ拡大するとされています。