Intel Arc B580 12GBに収まるモデルの速度と消費電力を実測〜Intel Arc B580ローカルLLM 第3話

2026年7月31日

Intel Arc B580 が本来どのくらいの速度で動くのかを、モデルのサイズを変えて測りました。第1話でドライバ更新により3.3倍速くなった後の、素の実力にあたります。 本記事の要点を先に書きます。B580 はプロンプトを読む速さ（prefill）が非常に速い一方、文章を生成する速さ（decode）はメモリ帯域で頭打ちになり、モデルが大きくなるほど落ちます。そしてアイドル時でも34Wを使う点が弱点でした。 測定は デスクトップPCの PCIe スロットに直挿しした B580 で、Vulkan（Mesa 26.1.5）と Ollama を使いました。ここでは12GBのVRAMに収まるモデルに絞っています。2026年7月時点の実測です。

使用した機器の概要

使用したデスクトップは、下記のとおりです。このPCにIntel Arc B580を追加しました。

CPU	Ryzen 9 3950X
マザーボード	X570
メモリー	64GB
GPU	RTX 3090、Intel Arc B580（今回追加）
OS	Ubuntu

目的：サイズを変えて素の実力を把握する

ローカルLLMは、モデルが大きいほど賢くなる代わりに遅く重くなります。B580 の 12GB という容量で、どのサイズまでが快適に動くのかを知りたいのが狙いでした。 小さいモデル（2.4GB）から、12GBにぎりぎり収まる中型モデル（7GB）まで、段階的に測っています。

実験内容：decode・prefill・消費電力を測る

各モデルについて次を測定しました。

• decode（文章を生成する速さ・tok/s）… 大きいほど速い
• prefill（入力プロンプトを読み込む速さ・tok/s）… 長文を読ませる用途で効く
• 平均消費電力（生成中・W）と、そこから求めた電力効率（tok/s あたりの W）

いずれも同じプロンプト（約1000トークン）で3回測り、中央値を採りました。B580 に確実に処理を載せるため、同じ機体の RTX 3090 側に推論プロセスが無いことを毎回確認しています（第1話で取り違えた反省を反映）。

結果：小さいほど速く、prefill が際立つ

12GBに収まる5モデルの実測値です（VRAM使用量の小さい順）。

モデル	VRAM	decode	prefill	平均W	効率(tok/s per W)
phi4-mini	2.4GB	79.81	2380.5	81.7W	0.98
nemotron-3-nano:4b	2.4GB	95.52	1650.8	85.2W	1.12
qwen3:8b	4.5GB	60.08	1192.9	148.1W	0.41
Ornith-1.0-9B	4.7GB	48.03	1163.4	146.8W	0.33
gemma4-12b	6.9GB	29.95	396.9	132.9W	0.23

decode の傾向をグラフにしました。 はっきり出たのは、モデルが大きいほど decode が落ちることです。2.4GB のモデルで 80〜95 tok/s あったものが、6.9GB の gemma4-12b では 29.95 tok/s まで下がりました。文章生成はメモリ帯域（データをやり取りする太さ）で決まる処理で、モデルが大きいほど1トークンごとに読むデータが増えるためです。 一方で prefill は小さいモデルで際立っていました。phi4-mini の 2380 tok/s、nemotron-3-nano:4b の 1651 tok/s は、同クラスのGPUとして十分に速い値です。長いプロンプトを一気に読ませる用途では、この速さが効きます。

「収まるはず」でも遅くなる例（正直な注記）

もう1つ dense（密）な14Bモデル（qwen3:14b・本体5.9GB）も測りましたが、decode は 9.14 tok/s と、より大きい gemma4-12b（29.95）を下回りました。モデル本体は12GBに収まるのに、です。 原因はデフォルトの文脈長（一度に扱える入力の長さ）が大きく、その作業メモリ（KVキャッシュ）を足すと12GBを超え、あふれた分がCPU側で処理されたためと考えられます。今回の配置検証は「RTX 3090 に載っていないこと」までしか確認できておらず、CPUへのあふれは検知できていません。12GBのカードでは、モデル本体のサイズだけでなく文脈長の設定次第で実効速度が大きく変わるという注意点として記録しておきます（この深掘りは次回に扱います）。

電力：アイドル34Wが弱点

消費電力も測りました。生成中は 74〜133W です。効率で見ると、小さいモデルは 1 tok/s あたり約1W と良好でしたが、gemma4-12b は 0.22 と大きく落ちます。重いモデルを回すほど、速度も効率も下がる形でした。 弱点はアイドル時です。何もしていない状態でも 34W を消費していました。常時つないでおくミニPCの外付けGPUとしては、この待機電力は無視できません。使わないときは負荷をかけない、あるいは接続を外す運用が向きます。

考察：B580 が向く用途・向かない用途

ここまでの実測から、B580 の得意・不得意が見えてきました。 位置づけとしては、第1話で見たとおり RTX 3060 と同等クラスです。新品で入手しやすく12GB積むGPUとして、中小モデルを動かす分には無理のない選択でした。

まとめ

Intel Arc B580 は、12GBに収まる中小モデルなら十分に実用的でした。とくにプロンプトを読む速さ（prefill）が速く、入力の長い用途に向きます。文章生成はモデルが大きくなるほど帯域律速で落ち、アイドル34Wの待機電力が弱点でした。 12GBを超える大きなモデルをあえて動かすとどうなるかは、測定手法を整えたうえで次回に扱います。本記事の数値は2026年7月時点・当環境（B580直挿し・Mesa 26.1.5）のものです。

参考にしたサイト

検証に使用した機材