GMKtec EVO-X2実機検証：ローカルAIの速度はメモリ帯域で決まる〜RTX・Macと測り比べた

2026年7月4日

新しいPCやMac、ミニPCでローカルAIを動かそうと思ったとき、いちばん気になるのは「で、どれくらいの速さで動くのか」というところでしょう。これは買う前でも、カタログのスペックからかなりの精度で見当がつきます。鍵になるのは、CPUの速さでもコア数でもなく、メモリ帯域（メモリからデータを読み書きする速さ）という数字でした。手元の四台で実際に測って、確かめてみます。（実機での計測・2026年6月時点）

スポンサーリンク

なぜ「メモリ帯域」で決まるのか

AIが文章を一文字（正確には一トークン）作るたびに、内部ではモデルの重み、つまり数十ギガバイトのデータをメモリから読み直しています。どれだけ速くメモリを読めるかが、そのまま生成の速さを左右します。計算の速さよりも、メモリを流し込む太さが効いてくる――専門的には「メモリ律速」と呼ばれる状態です。逆に言えば、メモリ帯域さえ分かれば、速度はおおよそ予測できます。

四台で測ってみた：速度を帯域で割ると、ほぼ同じ数になる

同じモデル（80億パラメータ＝モデル内部の設定値が80億個ある小型モデル）を、性格の違う四台で動かし、生成速度をそれぞれの公称メモリ帯域で割ってみました。デバイスの種類はバラバラですが、結果は驚くほどそろいます。

機種 メモリ帯域 生成速度 速度 ÷ 帯域
RTX 3090（専用GPU） 936 GB/s 130 トークン/秒 0.139
RTX 3060（専用GPU） 360 GB/s 61 トークン/秒 0.169
ミニPC（統合メモリ128GB） 256 GB/s 40 トークン/秒 0.155
Mac mini M4（base） 120 GB/s 19 トークン/秒 0.161

右端の「速度 ÷ 帯域」が、どれも0.14〜0.17のあいだに収まりました。専用GPUでも、ミニPCの統合メモリ（CPUとGPUが共有する大容量メモリ）でも、Macでも、種類に関係なく、速度はメモリ帯域にきれいに比例しています。

使い方：あなたの機材の速度を、買う前に見積もる

この比例関係から、ざっくりと次の目安が立ちます。小型モデルなら、生成速度はおおよそ「帯域 × 0.15」トークン毎秒です。手元のスペック表を見て、帯域の数字を0.15倍してみてください。

機種（帯域） 予測される速度
Mac mini M4 / 120 GB/s 約18 トークン/秒（実測19にほぼ一致）
MacBook Pro M5 base / 154 GB/s 約24 トークン/秒
ミニPC（統合128GB）/ 256 GB/s 約40 トークン/秒
M5 Max / 614 GB/s 約90 トークン/秒

大ざっぱな目安ではありますが、「この機械なら対話に十分か、それとも待たされるか」の見当をつけるには、これで足ります。読む速さがだいたい毎秒10トークン前後なので、それを超えていれば、対話の実用速度だと考えてよいでしょう。

スポンサーリンク

気をつけたい三つの前提

この目安には、いくつか但し書きがあります。記事の正直さのために、ひとつずつ挙げておきます。

  • これは「文章を書く速さ」の話です。長い文章を読み込ませて要約させるような「読む側」の速さは、計算量で決まるので別の傾向を示します。
  • 同じ圧縮率（量子化）で比べること。モデルを4ビットに縮めるか8ビットにするかで、一回に読むデータ量が変わり、係数もずれます。同じ条件どうしで比べるのがコツです。
  • 帯域は理論値で見ています。実際に使える帯域は、機種によって理論値の8〜9割ほどです。今回のミニPCも理論256に対して実測で215前後でした。

もうひとつ、Macには専用の高速エンジンがあり、この目安より速く出る場合があります。ここは実際に動かして確かめる価値のある余地です。

結論：選び方は、帯域と容量のどちらを取るか

ローカルAIの速度は、メモリ帯域でほぼ決まります。この一点を押さえておくと、機材選びがすっきりします。とにかく速く動かしたいなら、帯域の広い専用GPU。大きなモデルをとにかく載せたいなら、容量の大きい統合メモリのミニPCやMacが向いています。帯域と容量はトレードオフの関係にあり、どちらを優先するかで答えが決まります。次回は、では大きなモデルを載せられたとして“どれくらい賢いのか”、クラウドの最新モデルとどこまで肩を並べるのかを、実際に測って確かめます。

参考にしたサイト

スポンサーリンク

ローカルAI