Strata はその後どう変わった?〜10月12日から17日までの更新を読んだ(v0.1.43〜0.1.44.1)

本ページは広告(アフィリエイトプログラム)を含みます。詳しくはプライバシーポリシーをご覧ください。

Strata(ストラータ)は、巨大なモデルを12GBのグラフィックボードで動かすと話題の推論エンジン(AIモデルを動かす土台のプログラム)です。10月12日に仕組みを調べた記事(18195)を書いたあと、Strata はさらに更新されました。前回の記事に書いたことのうち、いまは当てはまらないものもあります。

この記事では、公式のリリースノートと説明文書を読み直し、前回から何が変わったかを整理しました。当ブログで Strata を動かして測った記事は17994にあります。今回は新しい測定をしていません。2026年10月17日 午前8時台に確認した内容です。

スポンサーリンク

調べたこと〜範囲と情報源

調べたのは、GitHub の Niko1221/Strata のリリース履歴(v0.1.43.1・v0.1.44・v0.1.44.1)、README、docs の MODELS・MAC・STRIX_HALO です。Star 数とプルリクエスト数は GitHub の API で数えました。速さや品質の数字はすべて作者の公表値で、当ブログでは確かめていません。

スポンサーリンク

結果1〜数字の動き

項目10月12日(前回)10月17日
GitHub の Star約22,00026,239
公開中のプルリクエスト398件753件
最新の版v0.1.43.1v0.1.44.1(10月14日)

結果2〜前回の記事と食い違うところ

前回の記事に書いた次の3点は、いまの公式の説明と違います。

項目前回の記事いま
対応モデルQwen3.8-Flash-Next の系統のみv0.1.44 から Qwen3.6-35B-A3B にも対応(NVIDIA と AMD のみ。Intel と Mac は対応しない)
macOS公式は非対応。Metal 対応の提案は取り下げv0.1.44 から Apple Silicon(M1〜M5・macOS 15 以降)に実験的に対応。Mac 上でビルドする方式で、作者が確かめたのは2台のみ
量子化の選択肢GSQ-RCO 形式と UD-IQ4_XS などUnsloth の UD-Q4_K_XL・UD-Q5_K_XL・UD-Q6_K_XL・Q8_0 が設定画面の選択肢になった。NVIDIA 専用の NVFP4 も追加

Ryzen AI Max+ 395 などの Strix Halo(当ブログの EVO-X2 と同じ系統のチップ)は、前回は「実験的」と書きました。いまも「実験的」のままですが、専用の説明文書(STRIX_HALO)が増え、メンテナ自身の Ryzen AI Max+ 395・メモリ128GBの機体で作者が測ったと書かれています。

スポンサーリンク

結果3〜量子化ごとの品質(作者の測定)

「量子化」は、モデルの数値を粗くして小さくする方法です。小さくするほど速く軽くなりますが、元の答えからずれやすくなります。作者は、Q8_0(8ビット)を基準にして、4,995か所の文章位置で「次に選ぶ言葉が基準と同じ」になる割合を測っています。

量子化基準と同じ言葉を選ぶ割合[%]平均KL(小さいほど基準に近い)
UD-Q6_K_XL94.60.033
UD-Q5_K_XL94.60.038
UD-Q4_K_XL93.10.056
NVFP492.10.070
UD-IQ4_XS88.90.101
IQ3_S87.70.144
IQ3_XXS84.50.202
Q2_080.60.315

速さとの兼ね合いも公表されています。作者の AMD R9700(32GB)では、すべての専門家をメモリに置いた UD-Q4_K_XL で、物語を書くときは63 tok/s、コードでは85〜88 tok/s です。Q8_0 では53〜57 tok/s と66〜74 tok/s でした。同じ機体の llama.cpp は16〜20 tok/s と作者は書いています。

結果4〜0.1.43 の変更が逆効果だったので戻した

v0.1.43 では、Linux の NVIDIA で「処理の重ね合わせ(adaptive overlap)」を初期設定でオンにしました。ところが、機種によっては書く速さが落ちました。作者の再測定では、RTX 5070 Ti のデスクトップで68.4 tok/s(オフなら86.4 tok/s)、RTX 5060 Ti で19%減、RTX 5090 Laptop で21%減です。そのため v0.1.43.1 で初期設定をオフに戻しました。RTX 5060 Ti は、当ブログが 17994 で測った機種です。17994 の70.7 tok/s を測ったときの Strata の版と、この変更の関係は確認していません。

スポンサーリンク

結果5〜v0.1.44.1 で直った不具合

  • AVX2 非対応の古い CPU(Xeon X5670 など)で、起動時に何も表示せず止まる問題
  • CUDA 12.0 / 12.1 の環境でエンジンをビルドできない問題
  • Apple M2 で答えが崩れる問題(Metal の処理が、使えるスレッド数の上限を超えていた)

考察〜前回の記事への影響

前回の結論は「Strata は Qwen3.8-Flash-Next 専用のエンジン」でした。いまは Qwen3.6-35B-A3B にも対応したので、「専用」という書き方は強すぎます。ただし、Qwen の系統の MoE(専門家を使い分けるモデル)に限られる点は変わりません。

品質の表からは、量子化を粗くするほど基準との一致が下がることが分かります。作者の測定では、UD-IQ4_XS(88.9%)から UD-Q4_K_XL(93.1%)へ上げると、一致が4.2ポイント増えます。ただし、必要なメモリも増えます(UD-Q4_K_XL で約88GB)。128GB のメモリを持つ機体向けの選択肢が増えた、という見方ができます。

スポンサーリンク

限界

  • この記事の速さと品質の数字は、すべて作者の公表値です。当ブログの測定ではありません。
  • Strix Halo と Mac の数字は、作者の1〜2台の機体での値です。
  • Strata は1日に何度も更新されます。この記事も、確認した時点のものです。

まとめ〜前回の3点を直し、量子化の選び方が増えた

10月12日から17日の間に、Strata は Mac と Qwen3.6-35B-A3B に対応し、Unsloth の4〜8ビットの量子化が選べるようになりました。0.1.43 の変更は一部の NVIDIA で遅くなったため、0.1.43.1 で元に戻っています。

すでに Strata を使っている人は、更新するときに「UPDATE.bat(Linux は ./update.sh)」を使い、更新後に自分の機体で速さを測り直してください。新しく試す人は、前回の記事の「使う前に知っておきたいこと」と、公式の INSTALL と SECURITY を先に読んでください。

参考にしたサイト

  • Niko1221/Strata(GitHub)リリース履歴 v0.1.43.1・v0.1.44・v0.1.44.1
  • Strata docs/MODELS・MAC・STRIX_HALO
  • 当ブログ 18195 Strata の仕組み
  • 当ブログ 17994 Qwen3.8-Flash-Next を動かした記事
スポンサーリンク