中古GPUでローカルAIを始める：RTX 30/40世代のコスパを検証する
目次
RTX 30世代とマイニング
最初に知っておくべきこととして、RTX 30世代（2020〜2022年発売）は、暗号資産マイニングに大量投入された世代です。 特にRTX 3060 Ti、3070、3080、3090はマイニング向けに大量に購入され、24時間365日フル稼働で使われていた個体が中古市場に数多く流通しています。ファンやVRMの劣化が進んでいる可能性があるため、「安いから」という理由だけで飛びつくのは危険です。 ただし、同じRTX 30世代でもRTX 3060 12GBは事情が異なります。 3060はNVIDIAが最初にLHR（Lite Hash Rate＝マイニング制限）を搭載したカードで、ハッシュレート（マイニングの計算速度）が約25 MH/sと低く抑えられていました。さらに12GBのVRAMはETHマイニングには不要（DAGサイズは4〜5GB程度）だったため、ハッシュレートにしては割高感が高く、マイナーからの人気は低かった。つまり、中古の3060 12GBはマイニング酷使された個体が比較的少ないと考えられます。 逆にRTX 3060 Tiは非LHR版が存在し、約60 MH/s / 120Wという優秀な効率からマイニングに大人気でした。3070、3080、3090も同様です。これらの中古は状態を慎重に見極める必要があります。 RTX 40世代（2022〜2024年発売）はマイニングブーム後の製品なので、酷使された個体は比較的少ないです。 この記事の中古相場はショップ販売価格（保証付き）を基準にしています。 フリマやオークションではもう少し安い場合がありますが、状態の見極めが難しいため、初めて中古GPUを買うならショップ購入を推奨します。ローカルAIで中古GPUを選ぶ理由＝VRAMのコスパが良い
ローカルLLMの性能はVRAMの量でほぼ決まります（詳しくは「自宅でAIチャットボットを動かしたい」を参照）。中古なら同じVRAMを新品より安く手に入れられます。VRAM 1GBあたりの価格比較（2026年4月時点）
| GPU | VRAM | 価格帯 | 1GBあたり | 備考 |
|---|---|---|---|---|
| RTX 3060 12GB（中古） | 12GB | 2〜3.5万円 | 約2,300円/GB | 入門最安 |
| RTX 3080 10GB（中古） | 10GB | 4〜6万円 | 約5,000円/GB | |
| RTX 3080 12GB（中古） | 12GB | 5〜7万円 | 約5,000円/GB | |
| RTX 3090 24GB（中古） | 24GB | 13〜20万円 | 約6,900円/GB | AI需要で高止まり |
| RTX 4060 Ti 16GB（中古） | 16GB | 7〜10万円 | 約5,300円/GB | 16GB版は希少 |
| RTX 4090 24GB（中古） | 24GB | 15〜20万円 | 約7,300円/GB | |
| RTX 5060 Ti 16GB（新品） | 16GB | 約9万円 | 約5,600円/GB | |
| RX 7900 XTX 24GB（新品） | 24GB | 約18万円 | 約7,500円/GB |
- RTX 3060 12GB（2〜3.5万円）: 12GBを最安で手に入れられる。8Bモデルの入門に最適
- RTX 4060 Ti 16GB（7〜10万円）: 中古で16GB VRAMが手に入る希少な選択肢。14Bモデルが動く。ただし8GB版（中古4〜5万円）と混同しないよう注意
中古GPU ローカルLLM適性ランキング
★★★★★ コスパ最強
RTX 3060 12GB（中古 2〜3.5万円）
「まず試す」ならこれ。12GBのVRAMが2万円台から手に入ります。| 項目 | スペック |
|---|---|
| VRAM | 12GB GDDR6 |
| メモリ帯域 | 360 GB/s |
| 動かせるモデル | Qwen 3 8B、Gemma 3 12B（ギリギリ） |
| 生成速度 | Qwen 3 8B: 約30〜35 tok/s |
| 消費電力 | 170W |
| 中古相場 | 2〜3.5万円（ショップ）/ 1.7〜3万円（フリマ） |
実体験: 私のサブ機です。中古で約4万円でした（2025年購入時。現在はもう少し安い）。Ollamaでチャットしつつ、メインの3090でComfyUI（画像生成）を動かす、という使い分けをしています。8Bモデルなら十分快適。12GBあるので、工夫すればGemma 3 12Bも動かせます。
注意点:
- メモリ帯域が狭い（360 GB/s）ので、生成速度は上位GPUに劣る
- 14Bモデルは収まらない。8B〜12Bが現実的なライン
- RTX 30世代ではあるが、LHR制限+12GB VRAMが不要でマイニングには不人気だったため、酷使個体は少なめ。ただし念のためショップの保証付きが安心
【中古】ELSA GeForce RTX 3060 S.A.C／L GD3060-12GEBSH4 12GB
RTX 4060 Ti 16GB（中古 7〜10万円）
中古で16GBのVRAMを確保できる数少ない選択肢。ただし16GB版は流通量が少なく、8GB版と比べて割高です。16GBのVRAMがどうしても必要な場合に検討してください。| 項目 | スペック |
|---|---|
| VRAM | 16GB GDDR6 |
| メモリ帯域 | 288 GB/s |
| 動かせるモデル | Qwen 3 14B、DeepSeek-R1 14B |
| 生成速度 | Qwen 3 14B: 約18〜25 tok/s |
| 消費電力 | 165W |
| 中古相場 | 7〜10万円（ショップ。16GB版は希少） |
【中古】ASUS DUAL-RTX4060TI-O16G RTX4060Ti/16GB(GDDR6)
★★★★ おすすめ
RTX 3080 12GB（中古 5〜7万円）
12GBのVRAMに加えて帯域が広い（384bit/912 GB/s）ので、生成速度は3060より速い。| 項目 | スペック |
|---|---|
| VRAM | 12GB GDDR6X |
| メモリ帯域 | 912 GB/s |
| 動かせるモデル | Qwen 3 8B、Gemma 3 12B |
| 生成速度 | Qwen 3 8B: 約40〜50 tok/s |
| 消費電力 | 350W |
| 中古相場 | 5〜7万円（ショップ） |
【中古】Palit GeForce RTX 3080 GamingPro OC 10GB(GDDR6X)
RTX 3090 24GB（中古 13〜20万円）
24GBのVRAMでローカルLLM最強クラス。ただし、中古価格が高止まり中。| 項目 | スペック |
|---|---|
| VRAM | 24GB GDDR6X |
| メモリ帯域 | 936 GB/s |
| 動かせるモデル | Qwen 3 32B、Gemma 3 27B、DeepSeek-R1 32B |
| 生成速度 | Qwen 3 32B: 約25〜30 tok/s |
| 消費電力 | 350W（高い） |
| 中古相場 | 13〜20万円（ショップ）/ 10〜15万円（フリマ） |
実体験: 私のメイン機です。発売当時に約30万円で買った1枚です。本来のグラフィック目的から外れたものの、ローカルAI専用機として意外に長く使用しています。Qwen 3 32Bを約30 tok/sで回せます。日本語の品質は「ローカルでここまでできる？」と驚くレベルです。
【中古】ZOTAC GeForce RTX 3090 ZT-A30900M-10B RTX3090/24GB(GDDR6X)
注意点:
- AI需要で24GB VRAMのカードは値崩れしにくい。「中古で安く」とはいかない価格帯
- 同価格帯でRX 7900 XTX（新品12〜15万円/24GB）が買える。新品保証が欲しいならそちらも検討を
- 消費電力350Wなので、電源ユニットは750W以上推奨
- マイニング落ちの個体が非常に多い。ファンの状態、異音を必ず確認
- 3スロット占有。ケースとマザーボードの物理的な余裕が必要
- 発熱が大きい。夏場のエアコンは必須
- フリマでは10万円前後で見つかることもあるが、保証なし・状態不明のリスクがある
RTX 4090 24GB（中古 15〜20万円）
予算に余裕があるならこれ。24GBのVRAMに加えて帯域も1 TB/s超え。| 項目 | スペック |
|---|---|
| VRAM | 24GB GDDR6X |
| メモリ帯域 | 1,008 GB/s |
| 動かせるモデル | Qwen 3 32B、Gemma 3 27B |
| 生成速度 | Qwen 3 32B: 約35〜45 tok/s |
| 消費電力 | 450W |
| 中古相場 | 15〜20万円（ショップ） |
★★★ 条件付きでおすすめ
RTX 3080 10GB（中古 4〜6万円）
安いが、10GBは中途半端。8Bモデルは余裕だが、14Bは収まらない。12GBの3060との価格差が小さいなら、3060の方がVRAM効率が良い。マイニング世代の注意も必要。RTX 4080 16GB（中古 10〜13万円）
16GBの高速GPU。帯域は広い（717 GB/s）が、新品のRTX 5060 Ti 16GB（9〜11万円）の方が安い。中古で10万円超えるなら新品を選ぶ方が合理的。おすすめしない
| GPU | VRAM | 理由 |
|---|---|---|
| RTX 3070 8GB | 8GB | 安いがVRAM不足。8GBなら3060 12GBの方がVRAMが多い |
| RTX 3070 Ti 8GB | 8GB | 同上 |
| RTX 4060 8GB | 8GB | 新しいが8GBは不足。中古4060 Ti 16GBの方が良い |
| RTX 4070 12GB | 12GB | 中古6〜8万円。3060 12GBの倍の値段で同じVRAM |
| RTX 4070 Ti 12GB | 12GB | 中古7〜9万円。同上 |
コスパ散布図：中古GPU × ローカルLLM
このグラフの見方: 横軸が中古価格（万円）、縦軸がローカルLLM性能スコア。左上に近いほどコスパが良い。中古GPUを買うときの注意点
マイニング落ちに注意（特にRTX 30世代）
RTX 30世代は暗号資産マイニングに大量に使われた世代です。24時間365日、高負荷で稼働し続けた個体が中古市場に多く出回っています。 見分けのチェックポイント:- ファンの回転が安定しているか（異音・ガタつきがないか）
- GPU-Zで製造日とシリアルを確認（2020〜2021年製造はマイニング使用率が高い）
- ヒートシンクのホコリの詰まり具合（清掃されていない個体は要注意）
- メルカリ等の個人売買より、じゃんぱら・ドスパラ中古・ソフマップ等の保証付きショップが安心
- 保証期間を確認（ショップによるが概ね1ヶ月程度）
- 「動作確認済み」と「保証付き」は別物。保証の有無を必ず確認
電源ユニットの確認
| GPU | TDP | 推奨電源 |
|---|---|---|
| RTX 3060 12GB | 170W | 550W以上 |
| RTX 3080 12GB | 350W | 750W以上 |
| RTX 3090 24GB | 350W | 750W以上 |
| RTX 4060 Ti 16GB | 165W | 550W以上 |
| RTX 4090 24GB | 450W | 850W以上 |
中古GPUの複数枚挿し：VRAMを安く増やす
ローカルLLMでは、複数のGPUのVRAMを合算して1つのモデルを動かせます。Ollamaは複数GPUを自動認識して分散ロードしてくれるので、特別な設定は不要です。 中古GPUの文脈でこれが意味するのは、高価な大容量GPU 1枚を買う代わりに、安い中古GPUを複数枚買ってVRAMを確保するという選択肢があるということです。| 構成例 | 合計VRAM | 動かせるモデル | GPU費用目安（中古） |
|---|---|---|---|
| RTX 3060 12GB × 1 | 12GB | 8Bモデル | 2〜3.5万円 |
| RTX 3060 12GB × 2 | 24GB | 27〜32Bモデル | 4〜7万円 |
| RTX 3060 12GB × 3 | 36GB | 32Bモデル（余裕あり） | 6〜10.5万円 |
| RTX 3060 12GB × 4 | 48GB | 70Bモデル（量子化版） | 8〜14万円 |
複数枚挿しの技術的な詳細（速度の低下率、並列処理の実測データ、セットアップ手順など）は別記事「GPU 2枚挿しでローカルAIを使い倒す」でまとめています。
新品 vs 中古：どちらを選ぶべきか
| 重視すること | おすすめ |
|---|---|
| とにかく安く始めたい | RTX 3060 12GB 中古（2〜3.5万円） |
| 14Bモデルを安く使いたい | RTX 4060 Ti 16GB 中古（7〜10万円） |
| 保証と安心感が欲しい | RTX 5060 Ti 16GB 新品（約9〜11万円） |
| 32Bモデルを動かしたい | RX 7900 XTX 新品（約12〜15万円）or RTX 3090 中古（13〜20万円） |
| 速度も賢さも妥協しない | RTX 4090 24GB 中古（15〜20万円） |
| 全部盛り（AI+VR+ゲーム） | RTX 5090 32GB 新品（約40万円） |
関連記事
自宅でAIチャットボットを動かしたい：予算別にできることガイド
【2026年版】ローカルAI・VR・画像生成向けGPU全機種スペック一覧