新Mac Studioの「AI性能4.3倍」の実力は？　ローカルLLMがどこまで速くなるのか〜ニューラルエンジンとMLXと動画生成について調べた

本ページは広告（アフィリエイトプログラム）を含みます。詳しくはプライバシーポリシーをご覧ください。

前回、Mac Studioと他の機械を並べて、大きなモデルを動かすなら容量、速さを取るならGPUが重要だろうと推測しました。

また、Appleの発表では、新しいMac Studioは「AI性能が最大4.3倍」「ニューラルエンジンを強化」と書かれています。数字だけ見れば、大きな改善です。

これは、何に効くのでしょうか。ローカルLLMを走らせると、その4.3倍は実感できるのでしょうか？

スポンサーリンク

この記事で調べたこと

Macの「AI性能」の強化が、ローカルLLMのどの段階を速くするのか。そして、動画生成のような別の使い方では、話が変わるのか。

スポンサーリンク

調べ方

当サイトはMacを持っていません。Appleの発表と仕様、Apple自身の研究チームが出した測定、そして各実装の公開情報を突き合わせました。手元で測った数値はありません。

ただし前回の記事で、手元のミニPC（EVO-X2）の実測は出しています。そこと突き合わせる形で読んでいます。

言葉の定義

ここから先、2つの段階を分けて話します。この区別をしないと、どの数字がどこを速くするのか分からなくなります。

入力を読み込む段階（prefill／プレフィル）

あなたが渡した文章を、モデルがまとめて一度に処理する段階です。1万字を渡せば、1万字ぶんをまとめて計算します。

大量の行列計算が並列で走ります。つまり計算力が効きます。

答えを書き出す段階（decode／デコード）

モデルが答えを1文字ずつ出していく段階です。ここが紛らわしいところで——

「書き出す」と言いますが、実際に時間を食っているのは読み込みのほうです。

1文字出すたびに、モデルの重み全体をメモリから読み直しています。

70Bのモデル（4bit・約40GB）で1文字出す
   → 40GBをメモリから読み出す
   → 次の1文字でも、また40GBを読み出す
   → その次も、また40GB

だから 1秒間に何文字出せるか ≒ メモリ帯域 ÷ モデルのサイズ という関係が生まれます。帯域1.2 TB/sを40GBで割ると毎秒30回。前回紹介した実測（17〜18 tok/s）は、その7割弱にあたります。

答えを書き出す速さがメモリ帯域で決まるのは、書いているからではありません。書くために、毎回すべてを読み直しているからです。

言葉のまとめ

段階実際にやっていること効くもの
入力を読み込む渡された文章をまとめて計算する計算力
答えを書き出す1文字ごとにモデル全体をメモリから読み出すメモリ帯域
スポンサーリンク

ニューラルエンジンは、使われない？

Appleのチップにはニューラルエンジン（ANE）という独立した回路が載っています。16コアあり、世代ごとに強化されています。

しかし、ローカルLLMの主要な実装は、どれもこれを使っていません。

  • MLXも、llama.cppも、Ollamaも、GPUで動いています
  • ニューラルエンジンは直接プログラムできません。公開された命令セットもカーネルSDKもなく、すべてCoreML経由です
  • 対応外の処理はGPUに落ちます

理由も明快でした。ニューラルエンジンは、画像分類のような「小さく、大きさの決まったネットワーク」向けの設計です。可変長の文章を1文字ずつ生成していくLLMとは、そもそも構造が合いません。

さらにCoreMLには7B以上のモデルで実用的でなくなるサイズ制限があり、小さな演算では2〜4倍のオーバーヘッドが乗るという指摘もあります。1文字ごとに呼び出す用途では、これが致命的に働きます。

つまり、カタログの「ニューラルエンジン強化」は、ローカルLLMにはほぼ関係しません。

スポンサーリンク

「AI性能4.3倍」の立役者は誰？

M5世代でAppleが入れたのは、GPUコア1つ1つに埋め込まれた行列演算器です。「Neural Accelerators built into each GPU core」と説明されています。

ニューラルエンジンとは別物です。GPUの中に、行列計算専用の回路を入れた——NVIDIAでいうテンサーコアに近い考え方です。

そしてこちらはプログラムできます。GPUの一部だからです。

何処が速さの恩恵を受けるのか

Apple自身が出しているMLXの測定です。

モデル入力を読み込む速さ答えを書き出す速さ
Qwen3-14B（4bit）4.06倍1.19倍
Qwen3-8B（BF16）3.62倍1.24倍

★M5 と M4 の比較。

入力の読み込みは4倍前後。書き出しは1.2倍程度です。

3章で書いたとおり、書き出す側はメモリ帯域で決まります。行列演算器を積んでも、メモリから読み出す速さは変わりません。1.2倍という数字は、帯域が増えたぶんそのものと考えられます。

M5/M6 を最大限に使うには

ここに実務上の落とし穴があります。

実装Neural Accelerators を使うか
MLX使う
llama.cpp使わない
Ollama使わない（内部でllama.cppを使うため）

★2026年6月時点。

GGUFをOllamaで動かしている限り、M5の目玉機能は眠ったままです。MLXに持ち替えて、初めて3〜4倍が出ます。

同じ機械でも、実装を選ばないと性能が出ない——これは後で出てくる動画生成の話と、まったく同じ形をしています。

スポンサーリンク

RTX 5090との比較

答えを書き出す速さは帯域の勝負なので、素直に比べられます。

帯域32GBに収まるモデル32GBを超えるモデル
RTX 50901,792 GB/s1.5倍速い動かない
M5 Ultra1,200 GB/s遅い動く

1.5倍差です。MLXを使っても、この差は縮みません。帯域が律速だからです。

入力を読み込む速さについては、比べられませんでした。Appleの4.06倍はM4との比較であって、NVIDIAとの比較ではありません。M5世代のMacと5090を同じ条件で測った第三者のデータが、調べた範囲で見つかりませんでした。

動画生成は、別の話

ここまではLLMの話です。同じ機械でも、動画生成では評価が入れ替わります。

動画生成は計算量が支配的で、LLMの生成で効いた帯域はあまり効きません。そして——実装があるかどうかが、決定的に効きます。

ComfyUIはMLXを使わない？

意外だったのはここです。

経路使っているもの
ComfyUI 標準PyTorch の MPS（MLXではない）
ComfyUI-MLX ノードMLX。ただしFluxのみ

MLX対応かどうかは、ComfyUIでの動画生成にはほぼ関係しません。MLXのノードはFlux専用で、SDXLもControlNetもLoRAも未対応と説明されています。

実装の有無で、速度が1000倍変わる

MiniMax H3という動画生成モデルで、同じM5 Maxでの報告が出ています。

実装時間
ComfyUI の GGUF経路（MPS）1時間強
h3.c（ネイティブMetal実装）3.5秒（4ステップの積極設定）

同じ機械です。実装を変えただけです。h3.cは、Redisの作者として知られるSalvatore Sanfilippo氏がCで書いたものです。

段階ごとの数字も公開されています（512×512・M5 Max）。

BF16 の MPS 基準         36.30秒
＋ int8 MLP              25.80秒
＋ int8 QKV（フルint8）  19.32秒
高速プリセット            16.69秒
4ステップの積極設定        3.5秒
画像＋音声のフル経路      74.58秒（ピーク40.1GB・スワップなし）

「MLXに対応していれば速い」ではありませんでした。効いているのは、その用途に特化して書かれた実装があるかどうかです。

スポンサーリンク

動画生成の速度概算

条件がばらばらなので、832×480・5秒動画・50ステップに揃えて概算しました。

土台にした実測

機種条件実測
RTX 50901344×768・5秒・50ステップ231.2秒
DGX Spark832×480・5秒・50ステップ181.3秒
Strix Halo（Ryzen AI Max+ 395）832×480・5秒・20ステップ31分51秒

★前2つはNVIDIA公式（Sol Engine適用）、3つ目はROCm 7.3での報告。

揃えた結果（当サイトの概算）

機種推定時間RTX 5090比
RTX 5090約1.5分1.0
DGX Spark約3.0分2.0倍
Strix Halo約80分約53倍

★画素数とステップ数で線形に換算したもので、当サイトの計算です。

Macについては、この表に入れられませんでした。ComfyUI標準では「1時間強」、h3.cでは桁違いに速い——同じ土俵の数字が存在しません。h3.cの数字も、5秒の動画（120フレーム）ではなく静止画を指している可能性が高く、そのまま比較すると誤ります。

これが意味すること

試行錯誤ができる速さかどうかが分かれ目です。動画生成は、気に入るまで何度も回す作業です。

5秒の動画を1本
  RTX 5090     約1.5分  → 何本も試せる
  DGX Spark    約3.0分  → 試せる
  Strix Halo   約80分   → 1日に十数本が限界

1本80分では、作業として成立しません。

スポンサーリンク

前回の結論と、突き合わせます

前回、当サイトはこう書きました。

「DGX Sparkの46万〜74万円は、CUDAの入場料です」

LLMを動かすだけなら、EVO-X2（256 GB/s）とDGX Spark（273 GB/s）は帯域がほぼ同じで、差はわずかでした。

動画生成では、その差が約26倍に開きます（同じ832×480・5秒で、DGX Spark 3.0分に対しStrix Halo 80分）。

入場料に、具体的な意味が付きました。

スポンサーリンク

確かめていないこと

  • 当サイトはMacを持っていません。この記事は全編が調査です
  • M5世代のMacと5090を同じ条件で測ったデータが見つかりません。入力を読み込む速さの比較ができていません
  • h3.cの数字が、動画なのか静止画なのか確認できていません。そのため概算の表に入れていません
  • Strix Haloの80分は、20ステップの実測を50ステップに引き延ばした値です。ステップ数に比例するという仮定が入っています
  • VLM（画像を読むモデル）での測定は見つかりませんでした。画像をトークンに変換する処理は入力を読み込む段階にあたるため、Neural Acceleratorsが効くはずですが、確かめていません

まとめ

カタログの「ニューラルエンジン強化」は、ローカルLLMには関係ありませんでした。主要な実装はどれもGPUで動いており、ニューラルエンジンは使われていません。

効いているのは、GPUコアの中に入った行列演算器のほうです。そしてそれが効くのは入力を読み込む段階だけで、答えを書き出す速さは1.2倍程度しか変わりません。書き出す側はメモリ帯域で決まるためです。

さらに、MLXでないと恩恵を受けられません。Ollamaで動かしている限り、M5の目玉は眠ったままです。

動画生成では、評価が入れ替わります。計算量が支配的となり、Macは不利な側へ回ります。しかもComfyUIはMLXを使わないため、「MLX対応かどうか」という判断軸すら当てはまりません。

そして実装の有無で1000倍変わりました。同じ機械で、1時間強と3.5秒です。

この記事を通して分かったのは、「何が律速か」を見ないと数字を読み違えるということでした。

4.3倍という数字は嘘ではありません。ただ、それは入力を読み込む段階の話で、MLXを使ったときの話で、LLMの話です。動画生成に持っていくと、まったく別の景色が見えます。

買う前に確かめるべきは、カタログの倍率ではなく、自分がやりたいことの律速がどこにあるかなのだと思います。

この記事の前提になっている、Mac Studioそのものを調べた記事です。

スポンサーリンク

ローカルAIMac Studio,MLX,ニューラルエンジン,ローカルLLM,動画生成