メモリ128GBのミニPCの本命？ NVIDIA RTX Spark登場〜ローカルLLMに影響する数字について調べた

本ページは広告（アフィリエイトプログラム）を含みます。詳しくはプライバシーポリシーをご覧ください。
status=future modified=2026-09-05 13:10:05

普段、128GBのユニファイドメモリを積んだミニPC、GMKtec EVO-X2（以下、EVO-X2）でローカルLLMを動かしています。同じ128GBを積んだ機材が、2026年9月に入ってもう1系統 増えました。

NVIDIA が9月3日に「RTX Spark」の第1弾となるSoC「N1X」を発表し、搭載パソコンは10月に出ると告知しています。カタログに並ぶ「128GB」という数字だけを見ると、EVO-X2 と同じに見えます。手元でローカルLLMを走らせたとき、この2つは同じ速さで動くのでしょうか？

2026年9月時点の調査です。

何を調べたのか

RTX Spark の実機はまだ出ていません。次の3つを突き合わせました。

  • NVIDIA が9月3日に出した発表と、同社が公開している DGX Spark の仕様表（一次情報）
  • N1X の内訳を報じた記事（NVIDIAが公開していない部分）
  • 手元の4機で以前に測った「メモリ帯域と生成速度の関係」（実測）

NVIDIA RTX Spark（N1X）の発表内容

NVIDIA が公開している内容は、次の3点です。

項目NVIDIAの発表
GPU1 PFLOPS の RTX Blackwell GPU
CPU20コアの Grace CPU
メモリユニファイドメモリ 最大128GB
時期2026年10月に搭載機が登場

報道では、N1X は2種類に分かれるとされています。上位がGrace CPU 20コア＋GPU 6,144コア＋ユニファイドメモリ24〜128GBでノートパソコンとミニPC向け、下位がCPU 18コア＋GPU 5,120コア＋24〜32GBでノートパソコン向け、という内訳です。この2種類の分け方は、NVIDIAの発表文には出てきません。

ローカルLLMを動かす側から見ると、ひとつ足りない数字があります。メモリ帯域です。

DGX Spark の仕様表には、その数字がある

NVIDIA には、AI開発者向けの小型機として DGX Spark という製品が既にあります。こちらは仕様表が公開されています。

項目DGX Spark（GB10）RTX Spark（N1X）
メモリ128GB LPDDR5x（統合）最大128GB（統合）
メモリ帯域273 GB/s公表されていない
演算最大 1 PFLOP（FP4）1 PFLOPS
CPU20コア Arm20コア Grace
ネットワーク10GbE ×1、ConnectX-7 200Gbps公表されていない

並べてみると、CPUのコア数も演算性能も同じ数字が出てきます。近い系統のチップだと考えられますが、N1X のメモリ帯域そのものは、NVIDIAの発表資料に見当たりません。

速さを決めているのは、容量ではない

なぜ帯域を気にするのか。手元の4機で測った結果があります。

AIが文章を書くとき、1トークン（単語のかけら）を作るたびに、モデルの重みをメモリから読み直します。読む量は毎回ほぼ同じなので、1秒間にメモリをどれだけ読めるかが、そのまま書く速さに出ます。この読める量がメモリ帯域です。

機材メモリ帯域qwen3:8b の生成速度 [tok/s]qwen3:14b の生成速度 [tok/s]生成速度 ÷ 帯域
RTX 3090936 GB/s130.278.00.139
RTX 3060360 GB/s60.835.10.169
EVO-X2（Strix Halo）約256 GB/s39.723.50.155
Mac mini M4（24GB）約120 GB/s19.310.80.161

tok/s は1秒間に書き出せるトークン数です。トークンは文章を細かく区切った単位で、日本語ではおよそ1〜2トークンが1文字にあたります。右端の「生成速度 ÷ 帯域」が、4機とも 0.139〜0.169 の範囲に収まりました。ディスクリートGPUでも、ミニPCの内蔵GPUでも、Macでも同じです。同じモデル・同じ量子化なら、生成速度はメモリ帯域におおよそ比例します（Ollama・qwen3:8b と qwen3:14b・2026年6月の実測）。

容量のほうは、速さではなく載るか載らないかを決めます。128GBという数字は「大きなモデルが載る」ことを意味しますが、「速い」ことは意味しません。

帯域が分かると、速さはどこまで読めるのか？

上の関係を当てはめると、帯域から生成速度をおおよそ見積もれます。N1X の帯域は公表されていないため、DGX Spark と同じ273 GB/sだったら、という仮定で置いてみます。

帯域から見積もった、8Bクラスのモデルを書く速さ
EVO-X2　約256 GB/s　→　39.7 tok/s　（実測値）
RTX Spark が273 GB/sだった場合　→　およそ42 tok/s　（0.155×273 の見積もり）
RTX 3090（24GB）　936 GB/s　→　130.2 tok/s　（実測値・ただし8Bまでしか載らない）

この見積もりが当たるなら、RTX Spark と EVO-X2 は、8Bクラスのモデルを動かすかぎりほぼ同じ速さだという読みです。1 PFLOPSという演算性能の数字は大きく違いますが、文章を書く工程はメモリを読む速さで頭打ちになるためです。

見積もりが外れる余地も残っています。入力を読み込む工程（プレフィル）は計算する量で決まるため、演算性能が高いほうが有利です。モデルの持ち方が違うMoE型や、実装が変わった場合も、この比例からずれます。

どのOSで動き、CUDAは使えるのか？

容量と帯域のほかに、もうひとつ違いがあります。動くOSと、GPUを動かすための仕組みです。同じ「128GBの小さい箱」に見えても、この2つはかなり事情が違いました。

AMD Strix Halo（EVO-X2 など）NVIDIA RTX Spark（N1X）NVIDIA DGX Spark（GB10）Apple（Mac Studio など）
CPUの系統x86Arm（Grace CPU・MediaTekと共同設計）ArmApple Silicon（Arm）
OSWindows と Linux の両方WindowsNVIDIA DGX OSmacOS
GPUを動かす仕組みROCm ／ VulkanCUDACUDAMetal ／ MLX

手元のEVO-X2は x86 です。普通のパソコンと同じ命令セットなので、Windows でも Ubuntu でも、入れたいほうを入れて動かせます。手元では Ubuntu を入れて使っています。ローカルLLMを動かすソフトも、配布されているものがそのまま入りました。

RTX Spark は Arm です。NVIDIA と Microsoft が5月31日に出した発表では、RTX Spark を積んだ機械は「手元でエージェントを動かすための Windows パソコン」と位置づけられ、CUDA を含む同社のソフト群が載ると書かれています。搭載機は今秋、ASUS・Dell・HP・Lenovo・Microsoft Surface・MSI から出るとされています。

同じ NVIDIA でも、DGX Spark は別です。仕様表のOS欄は「NVIDIA DGX OS」で、Windows の記載はありません。開発者が使うことを前提にした、同社独自のOSです。

CUDAは、いま使えるのか？

NVIDIA のGPUなら CUDA が使える、というのが普通の理解です。ローカルLLMを動かすソフトの多くが CUDA を前提にしているので、ここは大きな利点です。

ただ、調べてみるとWindows で動く Arm 機に限っては、まだ準備の途中でした。CUDA の開発キット 13.4 のリリースノート（2026年7月31日更新）には「RTX Spark – Windows on Arm Preview」という節があり、次のように書かれています。

  • 本番の運用・認証・ベンチマーク・業務で使う仕組みには使わないこと
  • この先行版で採った性能の数字は代表的な値ではなく、公開してはならない
  • CUDA のドライバ・ファームウェア・システムイメージは、この配布物に含まれていない

10月に出る機械なのに、速度の数字がどこにも出回っていないのは、これが理由だと考えられます。CUDAが使えることと、いま使えることは別でした。

手元のAMD側は、事情がまた違います。EVO-X2 も、デスクトップPCに挿した Radeon RX 9060 XT も、CUDA は使えません。AMD 用の仕組み（ROCm）か、GPUの種類を問わない Vulkan を使います。9060 XT のほうは、ROCm を入れていない状態でも Vulkan 経由でローカルLLMから見えました。

ただし、EVO-X2 で CUDA を使う道が無いわけではありません。OCuLink という外付けGPU用の口に NVIDIA のGPUをつなぐと、そのGPUの CUDA がそのまま使えます。手元では RTX 3060 をこの方法でつないで、nemotron-3-nano:4b を 99.20 tok/s で動かせました。デスクトップPCに直挿しした RTX 3090 が 181.41 tok/s だったので、その半分ほどの速さです。

なお、EVO-X2 に外付けでGPUをつないだときの記録はこちらです。つなぎ方によって、同じGPUでも動いたり動かなかったりしました。

128GBを積んだ3系統の並び

AMD Strix Halo（EVO-X2 など）NVIDIA RTX Spark（N1X）Apple（Mac Studio など）
ユニファイドメモリ最大128GB最大128GB最大512GB
メモリ帯域約256 GB/s公表されていないチップによる（M5 Max で614 GB/s）
入手販売中2026年10月から販売中
OSWindows / LinuxWindows（Armベース）macOS
手元での実測あり（8bで39.7 tok/s）なしMac mini M4 のみ（8bで19.3 tok/s）

容量で選ぶなら Apple、価格と入手しやすさなら Strix Halo、10月まで待てるなら RTX Spark、という並びになりそうです。ただし RTX Spark は帯域が分からないため、いまの段階では速さで比べられません。

この記事で確かめていないこと

  • RTX Spark の実機には触れていません。搭載機は10月からです
  • N1X のメモリ帯域は公表されていないため、DGX Spark と同じだと仮定した見積もりです。実測値ではありません
  • 帯域と生成速度の関係は、qwen3:8b と qwen3:14b を Ollama で動かしたときの結果です。別のモデルや別の実行環境では、比例の傾きが変わる可能性があります
  • 入力を読み込む工程の速さは、今回の見積もりに含めていません

まとめ〜同じ128GBでも、速さは別の数字で決まる

  • NVIDIA が9月3日に RTX Spark（N1X）を発表した。20コアのGrace CPU、1 PFLOPS のBlackwell GPU、最大128GBのユニファイドメモリ。搭載機は10月から
  • NVIDIAの発表資料にメモリ帯域が無い。同社の DGX Spark は273 GB/sと公表されており、CPUコア数と演算性能は同じ数字が並ぶ
  • 手元の4機の実測では、生成速度 ÷ メモリ帯域が 0.139〜0.169 でほぼ一定だった。生成の速さは帯域でおおよそ決まる
  • 帯域が273 GB/sなら、8Bクラスの生成はおよそ42 tok/sという見積もりになる。EVO-X2の実測39.7 tok/sと近い値で、大きくは変わらない見込み
  • 128GBという数字が決めるのは載るか載らないかで、速さではない
  • 動くOSも違う。EVO-X2はx86でWindowsもUbuntuも入る。RTX SparkはArmのWindows機、DGX SparkはDGX OS。Windows版のCUDAはまだ先行版で、リリースノートに「ベンチマークに使うな・数字を公開するな」と書かれている

カタログに大きく出るのは容量と演算性能で、帯域は表の下のほうに小さく載るか、載らないこともあります。手元にモデルを持ってきて動かす立場からすると、いちばん見たい数字が最後まで分からないというのは、機材選びとしてなかなか落ち着かないのではないでしょうか。

なお、Apple側の「AI性能4.3倍」がローカルLLMのどこまで届くのかを調べた記事はこちらです。

参考にしたサイト

記事で紹介した機材

比較の基準にした、手元の128GBのミニPCです。

[kimono_product id="16082″]

GPU・パーツ,ローカルAI