ローカルLLMの賢さの点数は、設定と動かすソフトで動く〜算術96問を、考えさせる/させないと、ollamaの2つの版で測り直した
ローカルLLM(自分のパソコンで動かすAI)の賢さを比べた点数は、同じモデルでも、考えさせ ...
文章を書かないAI「Jev」はRTX 3090で動く?〜同じ型のローカル版で、1回の判断にかかる時間と選択肢ごとの確率を測った
状態と選択肢を渡すと、文章は書かずに、選択肢の中から答えを選ぶAIがあります。TypeSa ...
ローカルLLMに長い文章を読ませると、待ち時間はどこまで伸びる?〜入力を7段階に変えて測った
前回の記事で、ローカルLLMに長い文章を読ませると、最初の一文字が出るまでの待ち時間が伸び ...
Ollama で入れたモデルが llama.cpp で読めない?〜読めなかったモデル7本の原因を調べ、Hugging Face 版で測り直した
Ollama で入れたモデルは、1つの大きなファイル(blob)として保存されています。中 ...
ローカルLLM おすすめPC・GPU 2026〜予算別に、何を買えばいいのか実測で並べた
ローカルLLMを動かす機材は、グラフィックボードを1枚足すのか、メモリの大きなミニPCを買 ...
ローカルLLM おすすめモデル 2026〜VRAM と用途で、最初の1本と次の1本を実測で選ぶ
Ollama のモデル一覧を開くと、名前が何百も並んでいます。どれを最初に入れればいいので ...
Qwen4 の先行版は家で動く?〜Qwen3.8-Flash-Next の2ビット版を RTX 5060 Ti と RTX 3060 で測った
X のタイムラインで「Qwen3.8-Flash-Next が家で動いた」という投稿を続け ...
最初の出力までに、どれくらい時間がかかる?〜ローカルLLMの最初の待ち時間を測定してみた
ローカルLLMの「待ち時間」を測った記事を、以前記載しました。 その時は、プロンプトの長さ ...
設定したのに効いていない?〜KVキャッシュの圧縮が無視されていた話
ローカルでLLM(大規模言語モデル。文章を扱うAIの本体)を動かしていると、長い文章を読ま ...
ミニPCの蓋が閉まらない?〜M.2→OCuLink変換アダプタを3種類試した
以前、GMKtec EVO-X2(以下、EVO-X2)というミニPCの中にあるM.2ポート ...









