外付けGPUが内蔵の25分の1しか出ない〜つなぎ方を変えたら36倍になった

2026年8月24日

2026年8月17日

前回、Thunderboltで繋いだ Radeon RX 9060 XT がようやく動くようになりました。原因は自分が残していた起動設定だった、という話です。

動いたので、次は速さを測ります。

測る前の私の予想はこうでした。Thunderboltは通り道が細いので、それなりに遅いはずだ。実際、繋いだときの表示は「2.5 GT/s x1」で、これは規格上いちばん遅い状態です。OCuLinkで繋いだカードは同じ機体で「16.0 GT/s x4」と出ているので、差は歴然に見えました。

ところが測ってみたら、その予想は外れました。そして私は、犯人を取り違えたまま、いちど結論を書いています。その顛末まで含めて記録しました。

この記事は手元で実際に測った記録です。測定は2026年8月16日から17日にかけて行いました。

つなぎ方を変えるだけで、どれくらい変わるのでしょうか。同じグラフィックボードで測り比べました。

前回の記事はこちらです。

測定環境

同じ機体に、接続方式の違うGPUが3枚ささっています。この2つのつなぎ方を、同じ条件で比べます。

測るのは2つです。読ませる速さ（プロンプト処理）と書く速さ（生成）。長い文章を読ませるときは前者が、返事を待っているときは後者が効きます。

測定結果

モデルの大きさで景色が変わった

まず、読ませる速さです。数字が大きいほど速い。

いちばん上の行だけ、明らかに様子が違います。

2.3GB以上なら、Thunderboltでも内蔵より速い

内蔵GPUと比べた倍率を出すと、はっきりします。

2.3GB以上では、一貫して1.3〜1.8倍速いという結果でした。Thunderbolt という「細い通り道」で繋いでいても、内蔵GPUより確実に速い。この結果は予想と違いました。

OCuLink の 5060 Ti には負けていますが、その差も1.5〜1.7倍程度です。「細いから桁違いに遅い」という話にはなりませんでした。

1.2GBのモデルだけ、異常に遅い

問題は1行目です。内蔵GPUの25分の1。他が1.7倍前後なのに、ここだけ逆転しています。

最初は「小さいモデルは1回の計算が短いので、通信の待ち時間が目立つのだろう」と考えました。Thunderbolt は帯域より応答の遅さが効く、という説明です。

この見立てを確かめるには、同じモデルで仕事の量だけを変えればいいはずです。待ち時間が原因なら、仕事を大きくするほど差は縮むはずですから。

読ませる文章の長さを64倍まで変えて測りました。

仕事量を64倍にしても、差は縮みませんでした。むしろ広がって、そのまま横ばいです。待ち時間が原因という説明は、これで否定されました。

決定的だったのは、同じGPU同士の比較でした

接続やモデルの大きさを比べるより、同じ9060 XT の中で並べたほうが分かりやすい結果でした。

しかも同じ llama3.2:1b を、内蔵GPUは 7,270、OCuLinkの5060 Ti は 21,184 で処理しています。このモデルで極端に遅いのは9060 XT だけでした。

ここまでの結果から、私はこう結論しました。原因は接続ではない。このGPUと、この特定のモデルの組み合わせで何かが起きている。9060 XT は新しい世代のカードなので、小さいモデルで使う処理がまだ十分に作り込まれていないのだろう、と。

念のため、条件も振ってみました。一度に処理する量（バッチサイズ）を16倍にする、逆に半分にする、計算の省力化（Flash Attention）を入れる・切る、CPUの担当スレッド数を変える。6通り試して、どれも改善しませんでした。

ここまで動かないなら、設定でどうこうなる話ではない。そう思って記事を書きました。

つなぎ方を変えたら、異常が消えました

その後、9060 XT を最終的な置き場所へ移しました。Thunderbolt をやめて、OCuLinkという別の繋ぎ方に変えたのです。こちらはPCIe（GPUを挿す規格）の線を延長ケーブルでそのまま引き出す方式で、表示上も「32.0 GT/s x16」と、内蔵カードと同じ扱いです。

接続が変わったので、同じ測定をもう一度やりました。速さの数字は多少変わるだろう、くらいの気持ちでした。

36倍です。GPUもモデルも同じまま、繋ぎ方だけを変えて、これだけ動きました。

私の推論には穴がありました。「同じモデルなのに9060 XT だけ遅い」を根拠に、GPU側の問題だと決めたのですが、比べた2枚は接続方式も違っていたのです。9060 XT は Thunderbolt、5060 Ti は OCuLink。GPUの違いと接続の違いが重なっていて、どちらが効いているのか、この比べ方では分けられませんでした。

条件を6通り振ったのも、いま思えば全部「同じ接続の中で」の話です。いちばん大きな変数だけ、手をつけていませんでした。

もうひとつ、接続を変えても説明のつかない点が残りました。5060 Ti は最初から最後までOCuLinkのままです。それでも一部の条件では動かない場面があり、「OCuLinkにすれば何でも通る」わけでもありませんでした。この話は次回に持ち越します。

長い文章を読ませるほど、差が開きました

ここまでは、まっさらな状態から読ませた速さです。実際の使い方はそうではありません。会話が続けば前のやり取りが積み上がりますし、資料を読ませれば最初から長い文章を抱えた状態で始まります。

そこで、すでに読ませてある文章の長さを変えて測り直しました。

長くなるほど差が開きます。1.75倍だったものが、16,384では3.40倍です。

どちらも遅くはなっています。ただ内蔵GPUの落ち方が急で、2,087が1,047になった外付けに対し、内蔵は1,196から308まで落ちました。

8.6GBのモデルでも同じ傾向で、1.62倍から3.26倍まで広がっています。

この長さを変えた測定は、別の窓口に依頼して実施してもらったものです。私が使った測定用の道具と、GPUの指定方法をそのまま渡して、同じ条件で測ってもらいました。

書く速さは、素直に負けました

読ませる速さでは健闘しましたが、生成のほうは違いました。

5060 Ti の3分の1、内蔵GPUの6割です。生成はメモリの読み書きが速さを決めるところなので、ここは素直に差が出ました。

読ませるのは速いが、書くのは遅い。用途によって向き不向きが分かれるということです。長い資料を読ませて要約させるような使い方なら向いていますし、対話のように少しずつ返事を待つ使い方には向きません。

消費電力は、つなぎ方でどう変わったか

外付けの2枚はほぼ同じで、内蔵が低めです。内蔵はCPUと電力を分け合っているので、単独で使える上限が違います。

数字にできなかったこと〜測定中に取れなかった点

測定は llama.cpp のベンチマーク機能を使い、各条件3回の中央値を採っています。ollama を経由していないため、ollama で使ったときの速度とは一致しない可能性があります。

モデルの読み込み時間は測れませんでした

本当は「モデルの読み込みにどれだけかかるか」を測りたいところでした。Thunderboltが細いなら、大きなデータを送り込む場面にこそ差が出るはずだからです。

ところが測ろうとすると止まります。

そのため読み込み時間の数字は出せていません。ただ、測れなかったこと自体が結果でもあります。

この記事の速度が測れたのは、たまたま読み込みを経由しない方法を選んでいたからでした。Thunderbolt接続でモデルを読み込ませる使い方は、いまのところ安定しません。買う前に知っておく価値がある点だと思います。

この症状はOCuLinkに変えたあとで測り直しました。結果はこうです。

普通に読み込めました。それどころか9060 XT がいちばん速いくらいです。Thunderboltのときに終わらなかった処理が、2秒で終わっています。

ただしThunderboltのときに終わらなかった理由が、これで説明できたわけではありません。当時も同じ指定だった可能性があります。「OCuLinkでは2秒で読み込める」という事実だけを書いておきます。

消費電力は前述のとおり、1回目の測定を破棄して測り直したものです。GPUごとに異なるセンサーから読んでいます。

1.2GBのモデルで遅くなる原因は、特定できていません。ただし、条件を変えて6通り試し、どれでも改善しないことは確かめました。

どの条件でも294前後から動きません。最初は「小さい仕事が細切れに投げられているので、まとめれば改善する」と考えていましたが、まとめて処理する量を16倍にしても変わりませんでした。この説明は否定されました。

同じ条件で qwen3:8b は一貫して内蔵GPUの1.6〜1.7倍を保っています。GPUや環境が壊れているわけではありません。

手元に1〜2GBのモデルがこれ1本しかないため、「この大きさ全般の問題なのか、このモデル固有なのか」は分かりませんでした。この時点では、分からないまま書くつもりでいました。

そのあと接続を変えて異常が消えたので、少なくとも「モデル固有の性質」ではなかったわけです。この記事に並べた6つの条件は、いま読み返すと全部おなじ土俵の中での試行でした。効いていた変数は表の外にありました。

うまくいかないときに条件を細かく振るのは自然な進め方だと思うのですが、振る範囲を自分で狭めていないかは、ときどき疑ったほうがよさそうです。

まとめ：つなぎ方を変えたら36倍になった

• Thunderboltでも、内蔵GPUより1.3〜1.8倍速いという結果でした（2.3GB以上のモデル）。「細いから遅い」という予想は外れました
• OCuLinkとの差も1.5〜1.7倍程度で、桁が違うような話にはなりませんでした
• 1.2GBのモデルだけ、内蔵GPUの25分の1という異常な遅さが出ました
• 仕事量を64倍にしても差は縮まず、通信の待ち時間という説明は否定されました
• 条件を6通り振っても改善せず、私はGPUとモデルの組み合わせの問題だと結論しました
• その結論は外れでした。OCuLinkに繋ぎ変えたら 299 が 10,668 へ。36倍で、異常は消えました
• 比べた2枚はGPUも接続も違っていて、どちらが効いているのか分けられていませんでした。振った6条件も全部、同じ接続の中の話でした
• ただし移設時にOSの保存先も同時に変えているので、接続だけが原因とは言い切りません
• 生成の速さは5060 Tiの3分の1。読ませるのは速く、書くのは遅い

調べる前は「Thunderboltが細いから遅いはずだ」と思っていました。表示される数字も、その予想を裏づけているように見えました。

ところが実際に測ると、接続はほとんど関係なく、まったく別のところに原因がありました。表示された数字を見て納得してしまうと、間違った結論にたどり着くところでした。

次は、16GBという容量の壁を見ます。ここまでのモデルはすべてGPUのメモリに収まっていました。収まらない大きさになったとき、外付けGPUはどうなるのでしょうか。

この記事で使った機材

AOOSTAR AG03（★OCuLinkとThunderboltの両方を持つドック。★この記事の要）

[kimono_product id="16563″]

AG03に載せたグラフィックボード（★実測に使ったもの）

[kimono_product id="17102″]

RTX 5060 Ti 16GB（★OCuLink側で比較に使ったGPU）

[kimono_product id="16560″]

[kimono_product id="16082″]

※測定環境：GMKtec EVO-X2（Ryzen AI Max+ 395／統合メモリ128GB）／Ubuntu 24.04／カーネル 7.0.0-29／内蔵 Radeon 8060S／llama.cpp（Vulkan・ビルド dbadb68）。

※この記事には、接続方式の違う2回の測定が入っています。
・Thunderbolt接続での測定（2026年8月16〜17日）：RX 9060 XT を Thunderbolt、RTX 5060 Ti を OCuLink で接続。各条件3回の中央値。
・OCuLink接続での測定（2026年8月17日）：RX 9060 XT を OCuLink（32.0 GT/s x16）へ変更後。このときOSとモデルの保存先も内蔵M.2から外付けSSD（USB4）へ移しており、変わったのは接続だけではありません。
・長い文章を読ませた測定（2026年8月17〜18日）：OCuLink接続。別の窓口が、同じ道具と同じ指定で実施。

※表とグラフには、どちらで測ったかを必ず書いています。混ぜて比べないでください。