コーディング向けモデルFlintの速さを測ってみた〜Qwen3-Coder 30Bとの比較など
いま使っているQwen3-Coder 30Bと比べて、新しく出たFlintは速いのか、遅いのか。自分のRTX 3090（VRAM 24GB）で、同じGPU・同じソフトで測りました。Flintは、2026年10月21日に公開された、ローカルAI（自分のPCで動かす生成AI）のコーディング向けモデルです。総計約398億パラメータ（モデルの規模を表す数）で、1トークンあたりに動く部分は約25億という、MoE（専門家の一部だけを動かす方式）です。
2026年10月26日時点の内容です。
何を測ったのか
24GBのGPUでFlintを動かしたときの、2つの速さを測りました。書く速さは、1秒に書くトークン数 [tok/s] です。トークンは、モデルが文章を数える単位です。読む速さは、入力の文章を1秒に読み込むトークン数 [tok/s] です。あわせて、答えの出し方（コーディングの課題、仕様の罠、知らないことを知らないと言えるか）を、別の測定で確かめました。
目的
次の3つを確かめます。
1つ目は、同じGPU・同じソフトで測った、FlintのQ3量子化版（ファイル18.5GB）とQwen3-Coder 30Bの、読む速さと書く速さの違い。2つ目は、答えの出し方に、Flintならではの傾向があるか。
測り方
| 項目 | Flint | Qwen3-Coder 30B |
|---|---|---|
| モデルファイルの量子化 | Q3_K_XL（Unslothの配布） | Q4_K_M（Ollamaの配布ファイルを直接読み込み） |
| ファイルの大きさ [GB] | 18.49 | 18.55 |
| パラメータ数 | 約398億 | 約305億 |
| GPU | RTX 3090（VRAM 24GB）、全層をGPUに載せる設定 | |
| ソフト | llama.cpp b11887のllama-bench（CUDA） | |
| 測定 | 512トークンを読む速さと、128トークンを書く速さ。各5回測った平均値と、その標準偏差 | |
速さの測定は、2つのモデルを同じ日に、同じ実行ファイルで、続けて測りました。量子化が違う点（Q3とQ4）と、パラメータ数が違う点は、条件がそろっていません。
答えの出し方の測定は、別の測定基準を使いました。コーディングの課題7問と、仕様に罠のある課題6問（計13問）、知らないことを作り話で答えるかを見る18問です。各問1回、採点は隠しテストで行いました。この測定は、メーカーの推奨設定に近い、文脈長8,192トークンで動かしています。
結果
動かした条件
Flint Q3_K_XL（18.49GB）は、全層をGPUに載せる設定で動き、測定は最後まで終わりました。測定の前後で、VRAMの使用量は、ほかに何も載っていない状態の266MiBでした。測定の最中のVRAM使用量は、記録していません。
速さ
| モデル | 読む速さ [tok/s] | 書く速さ [tok/s] |
|---|---|---|
| Flint（Q3_K_XL） | 3,611.5（±22.5） | 143.1（±0.2） |
| Qwen3-Coder 30B（Q4_K_M） | 4,441.7（±28.6） | 211.1（±0.7） |
括弧の中は、5回の標準偏差です。読む速さは、Flintの値がQwen3-Coder 30Bの約81%でした。書く速さは、約68%でした。5回のばらつきは、どちらも平均の1%未満で、この2つの差よりずっと小さい値でした。ただし、Flintは量子化がQ3、Qwen3-Coder 30BはQ4で、条件がそろっていない参考値です。
答えの出し方
| 項目 | Flint | Qwen3-Coder 30B |
|---|---|---|
| コーディング7問＋仕様の罠6問 | 13/13 完答 | 13/13 完答 |
| 知らないことを作り話で答えた割合（FAR） | 0.125（判定できた8問中の割合・95%信頼区間 0.022〜0.471） | 0.462（判定できた13問・同 0.232〜0.709） |
| 判定できなかった問（18問中） | 10問（うち8問は思考で文脈長を使い切り、答えが空） | 5問 |
Flintは、思考（答えを出す前の考える部分）をオフにする指定をしても、考える動きが残りました。そのため、18問中8問は、考えている途中で文脈長の上限に達し、答えが空になりました。この8問は、正解にも誤答にも数えていません。
Qwen3-Coder 30Bの値は、10月3日に別の条件（Ollama 0.30.5・各問1回）で測ったものです。Flintの測定とは、動かしたソフトも文脈長も違います。
考察
今回の測定は、512トークンを読んで128トークンを書く短い場面だけで、文脈が長くなったときのVRAM使用量は測っていません。
同じGPU・同じソフトで測った速さは、Flintのほうが遅い値でした。Flintは動く部分が約25億パラメータと小さいMoEですが、今回の条件では、Qwen3-Coder 30Bより書く速さが約68%でした。量子化がQ3とQ4で違うため、この差がモデルの作りによるものか、量子化やソフトの対応状況によるものかは、切り分けていません。
答えの出し方は、課題を解く力では、2つとも13問中13問で、差が出ませんでした。知らないことを作り話で答える割合は、判定できた問が少なく（Flintは8問）、信頼区間が広く重なるため、どちらが多いとは言えません。今回の設定（文脈長8,192トークン）では、Flintは思考をオフにしても考える動きが残り、18問中8問で答えが空になりました。これが文脈長の設定によるものか、モデルの性質によるものかは、切り分けていません。
ネットでの評価
公開直後に、いくつかの検証記事が出ています。
Atomic Agentの検証（2026年10月22日）は、RTX 5090（32GB）でUnslothのUD-Q4_K_XLを動かし、書く速さを145.7 tok/s、読む速さを3,433 tok/sとしています。VRAM使用量は、文脈長131,072トークンで27.4GBでした。6種類の作業を各3回、計18回の実行で、12回が成功しました。ログのERROR行の数を数える作業は、3回とも「数えずに数字を書いた」と書かれています。この検証は、記事側が1台のPCで、自分の作業で行ったものです。
MindStudioの導入記事（2026年10月22日）は、llama.cppで短い入力のとき約110 tok/s、文脈が長くなると遅くなり、10万トークンを超えると約9 tok/sまで落ちる、と書いています。GPUの型番は書かれていません。コーディング用ソフトのOpenCodeは、最初の入力が1万7千〜2万6千トークンになり、5分間応答がないと待つのをやめる、とあります。
モデルの公開ページ（Hugging Faceのモデルカード）には、SWE-bench Verified 74.2%、Terminal-Bench 2.1 54.9%という値が載っています。これはメーカー自身が測った、元のモデル（量子化していない版）の値です。本記事の測定とは、条件が違います。
今回の測定で確かめていないこと
次のことは、今回確かめていません。
文脈が長くなったときの速さとVRAM使用量は測っていません。MindStudioの記事にある、長い文脈での速さの落ち込みは、本記事では再現していません。
Flintの別の量子化（Q4_K_XL、25.05GB）は、24GBに載らないため測っていません。FlintとQwen3-Coder 30Bを、同じ量子化で比べてもいません。
速さの値は、llama-benchの5回の平均値で、「5回測って上下を1つずつ落とした中央3点」ではありません。5回のばらつきが小さいため、この記事の速さの値は大きく変わらないと見ています。ただし、量子化やモデルの違いが速さにどう影響したかは、切り分けていませんが、測り方が違う点は書いておきます。
答えの出し方は、各問1回の測定で、Flintの作り話の割合は判定8問だけの値です。Flintの文脈長を広げた測り直しは、していません。実際のコーディング作業（長い入力を読ませる使い方）での使い心地も、測っていません。
まとめ
| 見たこと | RTX 3090（24GB）での結果 |
|---|---|
| 動かした条件 | Flint Q3_K_XL（18.49GB）を全層GPUで動かした。長い文脈でのVRAMは未測定 |
| 読む速さ | 3,611.5 tok/s（Qwen3-Coder 30Bの約81%。量子化が違う参考値） |
| 書く速さ | 143.1 tok/s（Qwen3-Coder 30Bの約68%。量子化が違う参考値） |
| 答えの出し方 | 課題は2つとも13問中13問。今回の設定では、Flintは思考が残り、18問中8問で答えが空になった |
速さの参考値は、今回の条件ではFlintのほうが低い値でした。Flintを試すときは、自分の環境で、長い入力での速さ、VRAM使用量、答えが空にならないかを確かめてください。