ローカルAI環境を丸ごと公開〜Ubuntu＋RTX 3090＋Ollama＋ComfyUIの構築実例

2026年7月21日

自宅にローカルAI専用のワークステーションを組みました。Ubuntu 24.04にNVIDIA GPUを2枚挿し、Ollama・ComfyUI・Docker環境を一通り構築しています。本記事では、ゼロからこの環境を再現するための全手順を公開します。

結論としては、13〜18万円の中古GPU（RTX 3090）と無料ソフトウェアだけで、商用AIサービスに頼らないローカルAI環境が構築できます。月々の追加コストは電気代のみ。27Bパラメータ（AIの規模を表す数値。数字が大きいほど賢くなりやすい。Bは10億の意味で、27Bは約270億）のモデルが快適に動く環境が手に入ります。

この記事の構成・手順はすべて実機環境（AMD Ryzen 9 3950X / RTX 3090 + RTX 3060 / Ubuntu 24.04）に基づいています。
※ この記事のスペック・価格情報は2026年4月時点のものです。

環境全体像

完成形の全体像を示します。

Ollamaがチャット（LLM推論）、ComfyUIが画像生成、Dockerが開発用のWordPress等を担当しています。GPUが2枚あることで、チャットしながら画像生成を同時に回せます。詳しくはGPU 2枚挿しの記事を参照してください。

実機の状態はこのようになっています。

OS選定：なぜLinuxなのか

ローカルAIのOS選択肢はWindows・macOS・Linuxの3つです。それぞれに強みと弱みがあります。

Windowsは手軽に始められる反面、DockerなどWSL2前提のツールがあり、構築の手間が増えます。 OllamaにはネイティブWindows版がありますが、AI分野はLinux向けの情報が中心で、トラブル解決に手間取る場面も報告されています。

macOSはApple Silicon（M1以降）の統合メモリが魅力ですが、NVIDIA GPUに非対応。 中古GPUを活用するローカルAI構成とは根本的に相性が悪いです。

Linuxはセットアップに手間がかかるものの、AI用途では最も安定します。 OllamaもComfyUIもLinux版が最も安定しており、最新機能も先にLinux版に実装されます。Docker Engineもネイティブで動作し、仮想マシンを挟みません。

こうした理由から、Ubuntu 24.04 LTSを選択しました。LTS（長期サポート版）は5年間のセキュリティアップデートが保証されるため、一度構築すれば長期間安心して使えます。

ハードウェア選定と費用

このワークステーションの構成と、2026年4月時点の概算費用です。

最大の投資はRTX 3090です。中古相場は13〜18万円の幅があり、状態の良い個体を見極めて選ぶのがポイントです。GPUの選定についてはNVIDIA・AMD・Intel比較も参考にしてください。

GPU選定：VRAMがすべてを決める

一般に、ローカルLLMで最も重要なスペックはVRAM（ビデオメモリ）容量です。モデルの重みをすべてVRAMに載せられるかどうかで、推論（AIが入力を受け取り答えを計算する処理）の速度が大きく変わります。必要なVRAMの目安は以下の式で概算できます。

なぜRTX 3090なのか。 RTX 3090は24GBのVRAMを持ち、27Bパラメータのモデルが余裕で載ります。RTX 4090（24GB）は新品で30万円超ですが、RTX 3090なら中古で13〜18万円。VRAM容量が同じなので、載せられるモデルサイズも同じです。推論速度は4090の方が速いものの、RTX 3090でも実用上十分な速度が出ます。

RTX 3060を追加した理由。 12GBのVRAMがあれば8B〜9Bクラスのモデルが動きます。RTX 3090でメインの重い処理をしながら、RTX 3060でサブタスクを同時実行する構成です。中古2万円台で入手できるため、コストパフォーマンスに優れます。

電源・冷却に関してはGPU電源・冷却・騒音対策にまとめています。RTX 3090は最大350Wを消費するため、電源容量には余裕を持たせてください。

Ubuntu 24.04 インストール

インストール手順は標準的です。USBメモリに書き込んだISOから起動し、ディスク全体をext4でフォーマットしてインストールします。パーティション構成はデフォルトのまま（LVM使用）で問題ありません。

# インストール後、まずシステムを最新に更新
sudo apt update && sudo apt upgrade -y

# 必須ツールをインストール
sudo apt install -y build-essential git curl wget

NVIDIAドライバ + CUDA のインストール

Ubuntu 24.04でのNVIDIAドライバインストールは、以前のバージョンと比べてかなり簡単になりました。手動でリポジトリを追加する必要はなく、標準のaptコマンドで完結します。

# 推奨ドライバを確認
ubuntu-drivers devices

# 推奨ドライバを自動インストール
sudo ubuntu-drivers autoinstall

# 再起動
sudo reboot

# 再起動後、ドライバの認識を確認
nvidia-smi

正常にインストールされると、nvidia-smi で以下のような出力が得られます。

Driver Version: 580.126.09

GPU 0: NVIDIA GeForce RTX 3060   12288 MiB
GPU 1: NVIDIA GeForce RTX 3090   24576 MiB

2枚のGPUが両方とも認識されていれば成功です。ドライバのバージョンは580系が2026年4月時点の最新安定版です。

CUDAについて。 Ollama・ComfyUIともにCUDA（NVIDIA製GPUで計算を動かすための基盤ソフト）のランタイムを内蔵しているため、別途CUDAツールキットをインストールする必要は通常ありません。ただし、PyTorchを直接使う開発をする場合は、CUDA Toolkitの個別インストールが必要です。

Ollama インストール

Ollamaはローカルで大規模言語モデル（いわゆるLLM）を動かすためのツールです。一般的にLLMの推論環境構築にはPython・PyTorch・各種ライブラリの依存関係管理が必要ですが、Ollamaはこれらをすべて内包しており、インストールはワンライナーで完了します。

# Ollamaインストール（公式スクリプト）
curl -fsSL https://ollama.com/install.sh | sh

# バージョン確認
ollama --version
# ollama version is 0.20.2
# 動作確認: 軽量モデルをダウンロードして実行
ollama run qwen3:8b

これだけで、ローカルAIチャットが動きます。初回はモデルのダウンロード（qwen3:8bで約5.2GB）に数分かかりますが、2回目以降は数秒で起動します。

詳しいセットアップ手順はOllama入門：10分で始めるローカルAIにまとめています。

モデルのインストール

この環境にインストールしているモデルの一覧です。

# 各モデルのインストール
ollama pull qwen3:8b        # 5.2GB - 軽量・高速、日常使い
ollama pull qwen3:14b       # 9.3GB - バランス型
ollama pull qwen3.5:9b      # 6.6GB - Qwen最新世代
ollama pull qwen3.5:27b     # 17GB  - 高品質、RTX 3090推奨
ollama pull gemma4           # 9.6GB - Google製、日本語も良好
ollama pull gemma4:26b       # 17GB  - 大型Google製モデル
ollama pull minicpm-v:8b    # 5.5GB - 画像認識対応マルチモーダル

用途に応じた使い分けの目安です。

日常のチャット: qwen3:8b または qwen3.5:9b。RTX 3060でも快適に動きます。

込み入った質問・コード生成: qwen3.5:27b または gemma4:26b。RTX 3090のVRAM 24GBをフルに使います。

画像の内容を質問: minicpm-v:8b。画像を入力として受け取れるマルチモーダルモデルです。

ComfyUI インストール

ComfyUIはノードベースの画像生成ツールです。同じようなツールとしてはAutomatic1111のWeb UIもありますが、ComfyUIはワークフローの自由度が高く、ノードを組み替えることで複雑な処理パイプラインを構築できます。この環境ではComfyUIを採用しました。

# Python仮想環境を作成
sudo apt install -y python3.12-venv
python3 -m venv ~/comfyui-venv
source ~/comfyui-venv/bin/activate

# ComfyUIをクローン
git clone https://github.com/comfyanonymous/ComfyUI.git ~/ComfyUI
cd ~/ComfyUI

# PyTorch（CUDA対応版）をインストール
pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124

# ComfyUIの依存関係をインストール
pip install -r requirements.txt

# 起動
python main.py --listen 0.0.0.0 --port 8188

起動後、ブラウザで http://localhost:8188 にアクセスするとComfyUIのインターフェースが表示されます。

ComfyUIの基本的な使い方はComfyUI入門に詳しくまとめています。

GPUの指定について。 ComfyUIはデフォルトでGPU0を使用します。RTX 3090をGPU1に挿している場合は、起動時に --cuda-device 1 を指定するか、環境変数 CUDA_VISIBLE_DEVICES=1 を設定します。

# RTX 3090（GPU1）を指定して起動
CUDA_VISIBLE_DEVICES=1 python main.py --listen 0.0.0.0 --port 8188

Docker環境の構築

Dockerは開発用のWordPress環境やデータベースなどを動かすために使います。一般的にDockerのインストール方法はOS標準パッケージ（docker.io）とDocker公式リポジトリの2通りがありますが、公式リポジトリの方がバージョンが新しく安定しています。この環境では公式リポジトリからインストールしました。

# Docker公式リポジトリを追加してインストール
sudo apt install -y ca-certificates curl gnupg
sudo install -m 0755 -d /etc/apt/keyrings
curl -fsSL https://download.docker.com/linux/ubuntu/gpg | sudo gpg --dearmor -o /etc/apt/keyrings/docker.gpg
echo "deb [arch=$(dpkg --print-architecture) signed-by=/etc/apt/keyrings/docker.gpg] 
  https://download.docker.com/linux/ubuntu $(lsb_release -cs) stable" | 
  sudo tee /etc/apt/sources.list.d/docker.list > /dev/null
sudo apt update
sudo apt install -y docker-ce docker-ce-cli containerd.io docker-compose-plugin

# 現在のユーザーをdockerグループに追加（sudoなしで実行可能に）
sudo usermod -aG docker $USER
newgrp docker

# バージョン確認
docker --version
# Docker version 29.3.1

この環境では、Docker上でWordPressの開発環境を3つ（ポート8080〜8082）とphpMyAdmin（8083）を動かしています。docker compose で一括管理しているため、起動・停止はコマンド一発です。

2枚挿しGPUの設定

RTX 3090とRTX 3060の2枚を同じPCに挿して使う場合の設定です。物理的な取り付けに関してはGPU 2枚挿しガイドに詳しく書いていますが、ソフトウェア設定のポイントをまとめます。

ドライバは1回のインストールで両方認識されます。 GPU0とGPU1で異なるドライバを入れる必要はありません。nvidia-smi で2枚とも表示されていればOKです。

Ollamaは自動で2枚を使います。 特別な設定は不要です。VRAMが足りないモデルを実行すると、Ollamaが自動的に2枚のGPUに分散ロードします。

ComfyUIは1枚を指定して使います。 画像生成は1枚のGPUで完結するため、最もVRAMの大きいRTX 3090を指定します。

# GPU の認識状況を確認
nvidia-smi -L
# GPU 0: NVIDIA GeForce RTX 3060 (UUID: GPU-xxxx)
# GPU 1: NVIDIA GeForce RTX 3090 (UUID: GPU-xxxx)
# Ollamaの環境変数（必要に応じて）
# 特定のGPUのみ使う場合:
CUDA_VISIBLE_DEVICES=1 ollama serve

# 2枚とも使う場合（デフォルト）:
# 何も設定しなければOllamaは全GPUを自動認識します

PCIeスロットの注意点。 RTX 3090はPCIe x16スロットに挿してください。RTX 3060はx16でもx8でも動作しますが、x4まで落ちると帯域不足で性能低下が起きます。マザーボードのマニュアルで、2枚挿し時の各スロットのレーン数を確認しておくことを推奨します。

電源について。 RTX 3090（最大350W）+ RTX 3060（最大170W）+ CPU + その他で、ピーク時に700W近くになることがあります。850W電源を推奨する理由はここにあります。電源容量の詳細はGPU電源・冷却・騒音対策を参照してください。

ベンチマーク結果

この環境で実際にどれくらいの速度が出るのか、Ollamaのモデル別推論速度を測定しました。

8Bクラスのモデルは100 tok/s（1秒あたりに生成する文字のかたまり＝トークンの数。大きいほど速い）を超えており、体感で「瞬時に返ってくる」レベルです。27Bクラスでも25 tok/s前後で、ストレスなく読める速度が出ています。

RTX 3060でも同じモデルを実行できますが、メモリ帯域の差（936 vs 360 GB/s）により速度は約半分にとどまります。それでも8Bモデルで60 tok/sは十分実用的です。

月間電気代

ローカルAIの維持費で気になるのは電気代です。消費電力の調査で整理した目安をもとに、月間の電気代を試算しました。

アイドル時のシステム全体消費電力は約100Wが目安です。 GPUが2枚挿さっていても、負荷がなければほとんど電力を消費しません。

AIチャット中はモデルサイズに応じて170〜380W程度。 8Bモデルなら170W前後、27Bモデルで260W前後、ComfyUIで画像生成中は380W前後まで上がります。

月間電気代は、1日4時間程度のAI利用なら月額3,000円前後です。ChatGPT Plus（月額3,000円）やClaude Pro（月額3,000円）と同程度のコストで、ローカルで好きなだけ使えると考えると、十分にペイします。しかも一度環境を構築すれば、モデルは何種類でも追加できますし、利用量の制限もありません。

まとめ：トータルコストと運用の実際

ローカルAI環境の構築にかかったトータルコストを整理します。

初期投資は約26万円。 すでにPCがあってGPUだけ追加する場合は、RTX 3090の中古（13〜18万円）が主な出費です。

ランニングコストは月3,000円の電気代のみ。 ソフトウェアはすべて無料です。

2年目以降は年間36,000円（月3,000円）で運用できます。 クラウドAIサービスの年間サブスクリプション（36,000円〜）と同等のコストで、利用制限なし・データをローカルに保持・複数モデルを自由に使えるメリットがあります。

構築の難易度は、Linuxの基本操作（ターミナルでのコマンド実行）ができれば問題ありません。この記事の手順をそのまま追えば、半日で環境が完成します。

各コンポーネントの詳細は以下の記事で解説しています。

• Ollama入門：10分で始めるローカルAI
• GPU 2枚挿しでローカルAIを使い倒す
• NVIDIA・AMD・Intelのエコシステム比較
• GPUの電源・冷却・騒音対策
• ワットチェッカーでGPU消費電力を可視化
• ComfyUI入門：インストールから最初の1枚まで

検証に使用した機材