手元では30分かかった処理が〜GPUを借りるといくらになるのか計算した
手元のパソコンで、7,450億パラメータという桁外れに大きなモデルを無理やり動かしてみたことがあります。結果は「動くには動いた」でした。ただし速度は毎秒0.55トークン。1,000トークン（日本語でおよそ700〜800文字）を書かせると、30分待つことになりました。
これは実用とは言えません。では、こういうモデルを触りたくなったとき、どうすればよいのでしょうか。
選択肢のひとつがGPUを時間で借りるやり方です。名前は聞いていたものの、自分の用途でいくらになるのか、きちんと計算したことがありませんでした。手元の実測値があるので、それを使って計算してみます。
2026年7月時点の内容です。速度は当方の実測、料金は公開情報の調査です。借りるほうは実際には使っていません。料金は変わりますので、契約前に公式ページでご確認ください。
まず、手元でどれくらい遅かったのか
これまでに測った数字を並べます。いずれも当方の実機で測ったものです。
| 動かしたもの | 機材 | 速度 | 使えるか |
|---|---|---|---|
| 140億パラメータ（12GBに収まる） | グラフィックボード 12GB | 約20〜30 トークン/秒 | 快適 |
| 2,350億パラメータ（MoE） | メモリ128GBのミニPC | 約20 トークン/秒 | 使える |
| 7,450億パラメータ（202GBに圧縮） | 同上・無理やり | 0.55 トークン/秒 | 待てない |
| 2兆8,000億パラメータ | — | — | そもそも載らない |
境目がはっきり出ています。手元のメモリに収まるかどうかで、体験がまるで変わります。収まっているうちは快適で、はみ出した途端に数十分の待ち時間に変わります。
この「はみ出した先」が、今回考えたい領域です。
借りると、いくらなのか
時間貸しのサービスはいくつかありますが、料金の目安として RunPod の公開価格を見てみます。1時間あたりの金額です。
| 借りるもの | 載る量 | 1時間あたり | 円換算のめやす |
|---|---|---|---|
| RTX 4090 | 24GB | $0.34〜0.69 | 約50〜100円 |
| A100 | 80GB | $1.39 | 約200円 |
| H100 | 80GB | $2.89 | 約430円 |
| H200 | 141GB | $4.39 | 約650円 |
| B300 | 288GB | $7.39 | 約1,100円 |
安いほうと高いほうで2倍ほど幅があるのは、提供する場所の違いです。誰でも貸し出せる仕組みのものは安く、事業者の設備で動かすものは高くなります。安いほうは、空き状況に左右される前提で考えることになりそうです。
目を引いたのは、いちばん下の288GBです。手元で30分待った202GBのモデルが、1枚に載ってしまいます。
1,000トークンあたりで計算してみる
ここが本題です。手元の実測値と、借りた場合の料金を、同じ土俵に乗せます。
→ 約30分
電気代は 100W として 約1.5円
金額は安い。時間が重い
→ 約50秒
1時間1,100円なら 約15円
時間は短い。金額がかかる
並べてみて、考え方が変わりました。これは節約の話ではありませんでした。
電気代だけを見れば、手元で動かすほうが圧倒的に安いのです。1.5円と15円ですから、10倍違います。それでも借りる意味があるとしたら、買っているのは時間のほうだと言えます。30分を50秒にするために15円払う、という取引です。
1回なら15円は安く感じます。ただ、試行錯誤で50回繰り返せば750円です。使い方次第で、印象がずいぶん変わる金額でもあります。
買うのと借りるので、どこが分かれ目になるのか
もうひとつ計算してみます。中古のグラフィックボードを買う場合と、借り続ける場合の比較です。
24GBの中古が10万円前後だとして、同じ級のものを1時間50円で借りると、約2,000時間で並びます。1日8時間使うとすれば250日、毎日ではなく週2回なら5年近くかかる計算です。
手元の機材を持つ意味は、金額よりもいつでも触れることと外にデータを出さずに済むことにありそうです。
借りる前に知っておきたかったこと
料金表を読んでいて、見落としそうだと感じた点を挙げます。
- 保存する場所は別料金です。1TBまでは1GBあたり月$0.07とされています。モデルの重みを置いたままにすると、使っていない間も費用がかかります
- 止め忘れが怖い形式です。時間で課金されるので、借りたまま放置すると請求が積み上がります
- ダウンロードの時間も課金対象です。数百GBのモデルを取ってくる間も、GPUは借りている状態のままです
- 安いほうは空き待ちが起きます。すぐ使いたいときに空いていないことがあります
3つ目は当方の実測から言えることです。202GBのモデルを手元のディスクから読み込むのに、31分かかりました（毎秒110MB）。ネットワーク越しならさらに条件が変わりますが、「動かす前に、まず待つ時間がある」ことは頭に入れておいたほうがよさそうです。
結局、3つの道がある
大きなモデルを使いたいとき、道は3つに整理できました。
| 道 | 向いている場合 | 向かない場合 |
|---|---|---|
| 手元で動かす | 毎日使う／外に出せないデータ／モデルが収まる | 収まらない大きさ／たまにしか使わない |
| GPUを借りる | たまに大きなモデルを試す／自分で細かく設定したい | 常時使う／止め忘れが心配 |
| APIを使う | とにかく最高の品質が要る／手間をかけたくない | データを外に出せない／大量に使う |
3つ目のAPIについては、別の記事で料金を比べています。
https://kimono-oyaji.com/kimi-k3-pricing/まとめ：借りるのは、お金ではなく時間を買う話だった
- 手元では、メモリに収まるかどうかで体験が変わる。収まれば20トークン/秒、はみ出すと0.55トークン/秒（いずれも実測）
- 288GBを積んだGPUなら、手元で30分かかった処理が1枚に載る
- 1,000トークンあたりで比べると、手元は約1.5円で30分、借りると約15円で50秒
- 電気代は手元が10倍安い。借りる側が売っているのは時間
- 買うのと借りるの分かれ目は約2,000時間。毎日長く使うなら買い、月に数回なら借りる
- 保存領域は別料金・止め忘れに注意・読み込みの時間も課金される
調べる前は「手元で動かないなら借りればいい」と単純に考えていました。計算してみると、手元とクラウドは競合ではなく、役割が違うというのが実感です。日常は手元、たまの大物は借りる。そういう使い分けが素直なところに落ち着きました。
実際に借りて動かしたら、この計算がどこまで当たるのか確かめてみたいところです。仮に置いた速度が本当に出るのか、そこがいちばん怪しい部分なので。
今回ふれたサービスと機材
料金の参照元です。登録は無料で、使った分だけの支払いです。
本記事の料金はここの公開価格を参照しました。手元に収まらないモデルを、たまに触ってみたい場合の選択肢です。紹介リンクのため、当方に紹介の特典が入ります。読者側の料金が上がることはありません。
RunPod（GPUの時間貸し）
こちらは、記事の中で「安いほう」と書いた側にあたるサービスです。誰でも自分の機材を貸し出せる仕組みで、そのぶん料金が下がる代わりに、空き状況に左右されます。紹介リンクのため、当方に紹介の特典が入ります。読者側の料金が上がることはありません（2026年8月6日確認。当窓では実際に借りていません）。
Vast.ai（GPUの時間貸し・マーケット型）
国内のVPSにもGPUを積んだプランがあります。日本語で申し込めて、支払いも国内で完結します。時間課金の海外サービスとは料金の考え方が違うので、使い方に合うかどうかで選ぶことになります（2026年8月1日確認。当窓では試していません）。
ConoHa VPS（GPUプランあり）国内のVPS。GPUプランあり（2026年8月確認）
こちらはGPUのないVPSです。生成そのものは速くなりませんが、動かしっぱなしにしたいものを置く先としては選択肢になります（2026年8月1日確認。当窓では試していません）。
さくらのVPS国内のVPS。2週間の無料お試しあり
手元で動かす側の機材です。速度の実測は、この2台で取りました。
参考にしたサイト
確認日 2026年7月31日。円換算は1ドル150円として概算しました。料金・為替とも変動します。速度の実測値は当方の環境でのものです。