文章を書かないAI「Jev」はRTX 3090で動く？〜同じ型のローカル版で、1回の判断にかかる時間と選択肢ごとの確率を測った
状態と選択肢を渡すと、文章は書かずに、選択肢の中から答えを選ぶAIがあります。TypeSa ...
ローカルLLMに長い文章を読ませると、待ち時間はどこまで伸びる？〜入力を7段階に変えて測った
前回の記事で、ローカルLLMに長い文章を読ませると、最初の一文字が出るまでの待ち時間が伸び ...
Ollama で入れたモデルが llama.cpp で読めない？〜読めなかったモデル7本の原因を調べ、Hugging Face 版で測り直した
Ollama で入れたモデルは、1つの大きなファイル（blob）として保存されています。中 ...
ローカルLLM おすすめPC・GPU 2026〜予算別に、何を買えばいいのか実測で並べた
ローカルLLMを動かす機材は、グラフィックボードを1枚足すのか、メモリの大きなミニPCを買 ...
ローカルLLM おすすめモデル 2026〜VRAM と用途で、最初の1本と次の1本を実測で選ぶ
Ollama のモデル一覧を開くと、名前が何百も並んでいます。どれを最初に入れればいいので ...
Qwen4 の先行版は家で動く？〜Qwen3.8-Flash-Next の2ビット版を RTX 5060 Ti と RTX 3060 で測った
X のタイムラインで「Qwen3.8-Flash-Next が家で動いた」という投稿を続け ...
最初の出力までに、どれくらい時間がかかる？〜ローカルLLMの最初の待ち時間を測定してみた
ローカルLLMの「待ち時間」を測った記事を、以前記載しました。 その時は、プロンプトの長さ ...
設定したのに効いていない？〜KVキャッシュの圧縮が無視されていた話
ローカルでLLM（大規模言語モデル。文章を扱うAIの本体）を動かしていると、長い文章を読ま ...
ミニPCの蓋が閉まらない？〜M.2→OCuLink変換アダプタを3種類試した
以前、GMKtec EVO-X2（以下、EVO-X2）というミニPCの中にあるM.2ポート ...
Intel Arc B580でできたこと・できなかったこと〜Intel Arc B580ローカルLLM 第7話
以前から使っている NVIDIA GeForce RTX 3090 の隣に、12GB の ...