グラボの仕様表は、どの数字を見ればいい?〜VRAM・帯域・消費電力と、AIの書く速さの関係

本ページは広告(アフィリエイトプログラム)を含みます。詳しくはプライバシーポリシーをご覧ください。

グラフィックボードの仕様表には、VRAM、メモリ帯域、バス幅、消費電力、スロット数と、数字がたくさん並びます。ローカル LLM(自分のパソコンで動かす生成 AI)に使うなら、このうちどの数字が、何を決めるのでしょうか? 数字から書く速さの上限を計算できるなら、買う前に見当が付きます。ただし、計算値は実測とどのくらい合うのでしょうか?

この記事は、当ブログの GPU 価格一覧に載せているメーカーの公称値と、当ブログで測った2つの実測を、同じ式で突き合わせた調査です。新しく測ったものはありません。確認日は2026年11月9日です。

目的〜仕様表の数字で、何が分かるか

確かめたいことは、次の3つです。

  • 仕様表の項目のうち、ローカル LLM の「載るか」「速いか」「動かせるか」を決めるのはどれか
  • メモリ帯域とモデルのファイルの大きさから、書く速さの上限を計算できるか
  • その計算値は、当ブログの実測と、どのくらい近いか

機種の優劣を決める記事ではありません。読み終えたときに、自分が気になるグラフィックボードの仕様表から、動くモデルと速さの目安を見積もれることを目的にしています。

前提知識〜この記事で使う言葉

  • VRAM: グラフィックボードに付いている専用のメモリです。モデルのファイルが全部載れば、GPU だけで動かせます
  • メモリ帯域 [GB/s]: 1秒間に、VRAM から GPU へ読み出せるデータの量です。モデルは、1トークンを書くたびに、重みを読み出します。そのため、書く速さの上限は、帯域で決まります
  • バス幅 [bit]: VRAM と GPU をつなぐ道の幅です。広いほど、一度に多く運べます
  • 書く速さ [tok/s]: 答えを1秒あたりに何トークン作るかです。トークンは文章を数える単位で、日本語では1トークンがおおよそ1〜2文字です
  • 補助電源: グラフィックボードに、電源ユニットから追加で電気を送るケーブルです。8ピンや 12V-2×6 などの種類があります
  • PCIe: グラフィックボードをパソコンに差す、拡張スロットの規格です。世代(Gen4、Gen5)と、使う線の数(x8、x16)が書かれます

方法〜どの数字を、どう計算したか

グラフィックボードの数字は、当ブログの GPU 価格一覧に載せているメーカーの公称値を使いました。一覧で帯域に「算出値」と印を付けている機種(RTX 3060 12GB など)は、この記事の表から外しています。

書く速さの上限は、次の式で計算しました。

  • 書く速さの上限 [tok/s] = メモリ帯域 [GB/s] ÷ モデルのファイルの大きさ [GB]

1トークンを書くたびに、モデルの重みを1回読み出す、という単純な見積もりです。Mac Studio と32GB 以上のグラフィックボードを比べた記事でも、同じ式を使っています。この式は、計算の速さや、ソフトの効率を含みません。そのため、実測は式の値より低くなるのが普通です。

実測との突き合わせには、当ブログの次の2つの記事を使いました。

結果〜仕様表と、計算値と、実測

仕様表の数字(メーカー公称値)

グラフィックボード VRAM [GB] メモリの種類 バス幅 [bit] 帯域 [GB/s] 消費電力 [W]
GeForce RTX 3070 8 GDDR6 256 448 220
Intel Arc B580 12 GDDR6 192 456 190
Radeon RX 9060 XT 16GB 16 GDDR6 128 320 160
GeForce RTX 5060 Ti 16GB 16 GDDR7 128 448 180
GeForce RTX 5070 Ti 16 GDDR7 256 896 300
GeForce RTX 3090 24 GDDR6X 384 936 350
GeForce RTX 4090 24 GDDR6X 384 1,008 450
GeForce RTX 5090 32 GDDR7 512 1,792 575

当ブログの GPU 価格一覧のメーカー公称値です。2026年11月9日に一覧の値を読みました。この表の16GBの3機種(RX 9060 XT、RTX 5060 Ti、RTX 5070 Ti)だけで見ても、帯域は 320〜896 GB/s と、約2.8倍の開きがあります(896 ÷ 320 = 2.8。計算)。

書く速さの上限(計算)と、実測

組み合わせ 帯域 [GB/s] ファイル [GB] 計算した上限 [tok/s] 実測 [tok/s] 実測 ÷ 上限
RTX 3070 + Nemotron 3.5 Bolt E4B(実効4B系) 448 5.06 88.5 84.1 約95%
RTX 3090 + Qwen3.8 27B 936 16.5 56.7 38.88 約69%

計算は、448 ÷ 5.06 = 88.5、936 ÷ 16.5 = 56.7、84.1 ÷ 88.5 = 0.95、38.88 ÷ 56.7 = 0.69 です。実測の38.88 tok/s は、日本語400字を求めた256トークンの生成の値です。入力の長さを変えた別の測定(生成を64トークンで止めた、別の条件)では、39.75〜40.64 tok/s でした。

同じ式で、ほかのグラフィックボードに当てはめると(計算のみ)

グラフィックボード 帯域 [GB/s] 16.5GB のモデル(27B・Q4)の上限 [tok/s]
GeForce RTX 3090 936 56.7
GeForce RTX 4090 1,008 61.1
GeForce RTX 5090 1,792 108.6

この表は計算だけで、実測ではありません。また、VRAM が 16GB 以下のグラフィックボードは、16.5GB のファイルが載らないため、この表に入れていません。

考察〜どの数字を見ればよいか

1. まず VRAM で、載るかどうかを決める

ファイルが VRAM に載らなければ、速さの計算以前に、はみ出した分が遅くなります。27B の Q4(16.5GB)は、動かしたときの VRAM が 17.9〜19.3GB でした。24GB のグラフィックボードなら載り、16GB のグラフィックボードには載りません。8GB の RTX 3070 では、5.06GB のモデルが最大 4,966 MiB で載りました。

2. 次に帯域で、速さの上限を見る

VRAM が同じ16GBでも、RTX 5060 Ti は 448 GB/s、RTX 5070 Ti は 896 GB/s と、帯域が2倍違います(896 ÷ 448 = 2.0。計算)。この2つに、5.06GB のモデルを載せたときの上限は、88.5 tok/s と 177.1 tok/s です(計算)。バス幅が 128 bit と 256 bit で、2倍違うことが原因です。メモリの種類が同じ GDDR7 でも、バス幅が違うと帯域は変わります。

バス幅から帯域を逆算すると、仕様表の読み方の確認に使えます。RTX 3090 は、バス幅 384 bit を8で割ると 48 バイトです。これに 936 GB/s を当てると、1ピンあたりの転送速度は 19.5 Gbps と分かります(936 ÷ 48 = 19.5。計算)。RTX 5060 Ti は、128 bit を8で割って 16 バイト、448 ÷ 16 = 28 Gbps です(計算)。

3. 計算値と実測の差は、モデルによって違う

実測は、計算した上限より低くなりました。ただし、割合は違います。RTX 3070 の小型モデルは約95%、RTX 3090 の27Bは約69%でした。例が2つしかないため、「実測は上限の7割」のような一般則にはできません。さらに、Nemotron 3.5 Bolt E4B は実効4B(E4B)の系統で、1トークンごとにファイル全体を読むとは限りません。同じ元記事の同じ RTX 3070 では、Gemma 4 E4B(読み込み後 6.0GB)が 92.0 tok/s で、式の上限(448 ÷ 6.0 = 74.7)を超えました。そのため、約95%は「式がよく合った例」ではなく、式が当てはまりにくいモデルの値と読んでください。dense(全部を使う)モデルの例は、27B の約69%だけです。モデルの作り、ソフト、文脈の長さで割合が動くと考えられますが、この記事では確かめていません。

この式から言えるのは、上限の目安だけです。同じ条件で、複数のモデルとグラフィックボードを測らないと、割合は決められません。

4. 消費電力と補助電源は、買う前に電源とケースで確かめる

消費電力は、速さではなく、パソコン側の条件です。RTX 3090 は 350 W で、補助電源は 8ピン2本です。RTX 5090 は 575 W で、公称では、600 W の PCIe Gen 5 ケーブル1本、または付属のアダプターで 8ピン4本が要ります。今のパソコンの電源ユニットが、容量とコネクタの両方を満たすかを確かめてください。2枚目を足す場合の確認項目は、GPU を2枚目に足す前のチェックリストにまとめています。

5. スロット数と PCIe は、物理的に差せるかの条件

RTX 3090 は3スロット、RTX 4090 は3スロット(61 mm)の厚みです。パソコンのケースと、隣のスロットの空きを確かめます。PCIe の世代と線の数が、VRAM に収まるモデルの書く速さにどう影響するかは、この記事では測っていません【未確認】。

限界〜この記事で確かめていないこと

  • 実測の数: 計算値と突き合わせた実測は、RTX 3070 と RTX 3090 の2例だけです。ほかのグラフィックボードは、計算値だけです
  • 公称値: 表の数字は、メーカーの公称値です。個体や、メーカーごとの製品で、消費電力やスロット数は変わります
  • 式の単純さ: 式は、重みを1トークンにつき1回読む、という見積もりです。MoE(専門家の一部だけを使うモデル)、実効パラメータ(E4B など)の系統、推測デコードには、そのまま当てはまりません。複数 GPU は、2枚でも上限は1枚の帯域で見積もるのが基本です(Mac Studio との比較の記事の MI50 2枚の例)
  • ソフトの違い: 実測は、Ollama の版が違う2つの記事の値です(0.34.0 と 0.30.5)。同じ GPU でも、ソフトで書く速さは変わります
  • PCIe の影響: VRAM に収まる場合の PCIe の世代・線の数の影響は測っていません
  • 価格: この記事は、価格や買い時には触れていません。価格は GPU 価格一覧で確認してください

まとめ〜仕様表の見方と、見積もりの手順

  • ローカル LLM では、VRAM が「載るか」、メモリ帯域が「書く速さの上限」、消費電力と補助電源とスロットが「自分のパソコンに入るか」を決める
  • 書く速さの上限は、帯域 [GB/s] ÷ ファイルの大きさ [GB] で見積もれる。RTX 3090 と 27B の Q4(16.5GB)なら 56.7 tok/s、RTX 3070 と 5.06GB のモデルなら 88.5 tok/s
  • 実測は上限の約95%(RTX 3070・実効4B系のモデル)と約69%(RTX 3090・27B)で、割合は条件で変わる。一般則にはできない
  • この表の16GBの3機種では、帯域は 320〜896 GB/s と約2.8倍の開きがある。バス幅を見ると理由が分かる
  • 買う前に、VRAM、帯域、電源の容量とコネクタ、ケースの空きの順に、自分のパソコンで確かめる

グラフィックボードの VRAM や帯域を並べて見たいときは、GPU 価格一覧で、VRAM の容量や新品・中古の別に絞り込めます。予算別に何を選ぶかは、ローカル LLM おすすめ PC・GPU 2026にまとめています。

次の一歩

この記事で使った機材

【中古】MSI GeForce RTX 3090 GAMING X TRIO 24GB