こんにちは、七宮さん(@shichinomiya_s)です。
前回の記事ではGTX 1080TiでQwen 3.5がどこまで動くか検証しましたが、今回はApple Silicon(M1 Pro 32GB / M1 Max 64GB)で最新ローカルLLMをガッツリベンチマークしてみました。
Qwen 2.5からQwen 3.5まで、7B〜32Bの全12構成をOllamaとMLX-LMの2つのランタイムで比較。「Apple Siliconでローカル生成AIってどうなの?」という疑問に、数字で答えます。
結論から言うと、MLX-LMが圧倒的に速い。そしてユニファイドメモリの恩恵で、GTX 1080Tiでは動かせない大型モデルも余裕で動きます。
なぜApple SiliconでローカルLLMなのか
Apple Silicon MacはGPUとCPUが同じメモリ(ユニファイドメモリ)を共有しています。これがローカルLLMにとって大きなメリットになります。
- メモリの壁がない — dGPUのようなVRAM制限がなく、搭載メモリ全体をモデルに使える
- MLX-LMが最適化済み — Apple純正のMLXフレームワークがMetal GPUをフル活用
- 静音・省電力 — ファンレスor静音で24時間稼働にも向いている
M1 Proは32GBで27Bモデルまで、M1 Maxは64GBで32Bモデルまで動かせます。GTX 1080Tiの11GB VRAMでは9Bが限界だったことを考えると、圧倒的な柔軟性です。
テスト環境
| 項目 | マシン1(M1 Pro) | マシン2(M1 Max) |
|---|---|---|
| チップ | Apple M1 Pro(10コアCPU / 16コアGPU) | Apple M1 Max(10コアCPU / 32コアGPU) |
| メモリ | 32GB ユニファイドメモリ | 64GB ユニファイドメモリ |
| メモリ帯域 | 200GB/s | 400GB/s |
| OS | macOS(Darwin 25.4.0) | |
| Ollama | v0.20.2 | |
| MLX-LM | v0.31.1 | |
メモリ帯域が2倍というのがM1 MaxとM1 Proの最大の違いです。LLMの推論速度はメモリ帯域にほぼ比例するため、理論上M1 Maxは2倍近い速度が出るはず。実際にそうなるのか、検証していきます。
Apple Silicon Macは中古市場でも手に入りやすく、ローカルAI用途としてコスパが良い選択肢です。
テストしたモデル
今回テストしたのは以下のモデルです。Qwen 2.5、Qwen 3、Qwen 3.5の3世代を比較しました。
| モデル | パラメータ | 特徴 | M1 Pro | M1 Max |
|---|---|---|---|---|
| Qwen 2.5 7B | 7B | Thinkingなし、高速 | ○ | ○ |
| Qwen 3 8B | 8B | Thinking搭載 | ○ | ○ |
| Qwen 3 14B | 14B | Thinking搭載 | ○ | ○ |
| Qwen 3 32B | 32B | Thinking搭載 | ×(メモリ不足) | ○ |
| Qwen 3.5 9B | 9B | 最新世代+Thinking | ○ | ○ |
| Qwen 3.5 27B | 27B | 最新世代+Thinking | ○ | ○ |
各モデルについて、日本語(短文・長文・要約)、コード(簡単・中程度・バグ修正)、翻訳(日英・英日)、推論(論理・数学)の10タスクでベンチマークを実施しています。
ollama pull qwen3.5:9b
pip install mlx-lm
python -m mlx_lm.generate --model mlx-community/Qwen3.5-9B-MLX-4bit --prompt "hello"MLX vs Ollama — Apple SiliconではMLXが圧勝
今回の最大の発見がこれです。同じモデル・同じ量子化でも、MLX-LMはOllamaの1.5〜2.3倍速い。
M1 Pro(32GB)での比較
| モデル | Ollama (tok/s) | MLX 4bit (tok/s) | MLX優位率 |
|---|---|---|---|
| Qwen 2.5 7B | 27.8 | 41.1 | +48% |
| Qwen 3 8B | 22.6 | 33.5 | +48% |
| Qwen 3.5 9B | 14.2 | 29.7 | +109% |
| Qwen 3.5 27B | 4.6 | 10.6 | +130% |
M1 Max(64GB)での比較
| モデル | Ollama (tok/s) | MLX 4bit (tok/s) | MLX優位率 |
|---|---|---|---|
| Qwen 2.5 7B | 51.2 | 74.6 | +46% |
| Qwen 3 8B | 42.8 | 60.7 | +42% |
| Qwen 3.5 9B | 25.1 | 56.9 | +127% |
| Qwen 3.5 27B | 8.4 | 18.7 | +123% |
特にQwen 3.5系ではMLXの優位が顕著で、2倍以上の速度差が出ています。これはQwen 3.5のThinkingモードでOllamaが内部推論トークンをストリーム出力する際のオーバーヘッドが大きいためです。
Apple SiliconでローカルLLMを動かすなら、MLX-LM一択です。Ollamaは手軽さが魅力ですが、速度を重視するならMLXを使いましょう。
全モデル速度一覧 — M1 Pro vs M1 Max
全モデルの平均生成速度をまとめました。M1 MaxはM1 Proの約1.8倍の速度が出ており、メモリ帯域の差がそのまま性能差になっています。
| モデル | ランタイム | 量子化 | M1 Pro (tok/s) | M1 Max (tok/s) | 倍率 |
|---|---|---|---|---|---|
| Qwen 2.5 7B | Ollama | Q4_K_M | 27.8 | 51.2 | 1.84x |
| Qwen 2.5 7B | MLX | 4bit | 41.1 | 74.6 | 1.82x |
| Qwen 2.5 7B | MLX | 8bit | 22.5 | 42.4 | 1.88x |
| Qwen 3 8B | Ollama | Q4_K_M | 22.6 | 42.8 | 1.89x |
| Qwen 3 8B | MLX | 4bit | 33.5 | 60.7 | 1.81x |
| Qwen 3 14B | Ollama | Q4_K_M | 12.7 | 24.2 | 1.91x |
| Qwen 3 14B | MLX | 4bit | 19.4 | 34.9 | 1.80x |
| Qwen 3 32B | Ollama | Q4_K_M | — | 10.9 | — |
| Qwen 3 32B | MLX | 4bit | — | 15.6 | — |
| Qwen 3.5 9B | Ollama | Q4_K_M | 14.2 | 25.1 | 1.77x |
| Qwen 3.5 9B | MLX | 4bit | 29.7 | 56.9 | 1.92x |
| Qwen 3.5 9B | MLX | 8bit | 19.7 | 36.3 | 1.84x |
| Qwen 3.5 27B | Ollama | Q4_K_M | 4.6 | 8.4 | 1.83x |
| Qwen 3.5 27B | MLX | 4bit | 10.6 | 18.7 | 1.76x |
| Qwen 3.5 27B | MLX | 8bit | — | 11.4 | — |
M1 MaxのGPUコア数は32コアでM1 Pro(16コア)の2倍ですが、速度差は約1.8倍。メモリ帯域(400GB/s vs 200GB/s)がボトルネックになるLLM推論では、ほぼ帯域比に比例した結果になっています。
M1 Pro(32GB)のベンチマーク詳細
M1 Proで最もバランスが良いのはQwen 3.5 9B(MLX 4bit)です。平均29.7 tok/sで、日本語品質も高い。詳細な結果を見ていきましょう。
Qwen 3.5 9B — MLX 4bit(推奨構成)
| テスト内容 | 生成速度 | 生成トークン数 | 所要時間 |
|---|---|---|---|
| 日本語 短文回答 | 32.4 tok/s | 8,192 | 253秒 |
| 日本語 長文生成 | 32.4 tok/s | 8,192 | 253秒 |
| コード 簡単な関数 | 34.1 tok/s | 629 | 19秒 |
| コード 中程度の関数 | 34.0 tok/s | 1,186 | 35秒 |
| コード バグ修正 | 29.7 tok/s | 8,192 | 1,178秒 |
| 翻訳 日→英 | 16.2 tok/s | 8,192 | 2,335秒 |
| 翻訳 英→日 | 21.5 tok/s | 8,192 | 1,758秒 |
| 推論 論理パズル | 33.9 tok/s | 722 | 23秒 |
| 推論 数学 | 30.2 tok/s | 2,232 | 75秒 |
コードや推論タスクでは30 tok/s超で快適。ただし、翻訳タスクではThinkingモードが暴走してmax_tokens(8,192)に到達するケースが頻発します。Qwen 3.5のThinkingモードは強力ですが、出力トークンが爆発的に増える傾向があります。
Qwen 2.5 7B — MLX 4bit(最速構成)
| テスト内容 | 生成速度 | 生成トークン数 | 所要時間 |
|---|---|---|---|
| 日本語 短文回答 | 42.3 tok/s | 56 | 1.7秒 |
| 日本語 長文生成 | 39.7 tok/s | 762 | 919秒 |
| コード 簡単な関数 | 41.0 tok/s | 336 | 8.6秒 |
| コード 中程度の関数 | 40.7 tok/s | 618 | 15.6秒 |
| 翻訳 日→英 | 41.8 tok/s | 136 | 3.8秒 |
| 翻訳 英→日 | 41.8 tok/s | 130 | 3.6秒 |
| 推論 論理パズル | 41.3 tok/s | 95 | 2.8秒 |
| 推論 数学 | 41.3 tok/s | 267 | 6.9秒 |
Qwen 2.5はThinkingモードがないため出力が簡潔で高速。「すぐ答えが欲しい」用途に最適です。M1 Proでも41 tok/s出るのは驚異的。
M1 Max(64GB)のベンチマーク詳細
M1 Maxの真骨頂は速度と大型モデルの動作です。Qwen 3.5 9B MLX 4bitで56.9 tok/sという圧倒的な速度を叩き出しました。
Qwen 3.5 9B — MLX 4bit(最速+高品質)
| テスト内容 | 生成速度 | 生成トークン数 | 所要時間 |
|---|---|---|---|
| 日本語 短文回答 | 56.7 tok/s | 6,154 | 109秒 |
| 日本語 長文生成 | 56.3 tok/s | 8,192 | 146秒 |
| コード 簡単な関数 | 58.3 tok/s | 615 | 11秒 |
| コード 中程度の関数 | 57.9 tok/s | 1,083 | 19秒 |
| コード バグ修正 | 56.2 tok/s | 8,192 | 146秒 |
| 翻訳 日→英 | 56.2 tok/s | 8,192 | 146秒 |
| 翻訳 英→日 | 56.3 tok/s | 8,192 | 146秒 |
| 推論 論理パズル | 58.0 tok/s | 959 | 17秒 |
| 推論 数学 | 57.3 tok/s | 3,958 | 69秒 |
全タスクで56〜58 tok/sという安定した速度。ChatGPTのストリーミング表示よりも明らかに速く、体感的にはほぼリアルタイムで文章が生成される感覚です。
Qwen 2.5 7B — MLX 4bit(爆速構成)
| テスト内容 | 生成速度 | 生成トークン数 | 所要時間 |
|---|---|---|---|
| 日本語 短文回答 | 76.1 tok/s | 56 | 1.1秒 |
| コード 簡単な関数 | 74.2 tok/s | 336 | 4.8秒 |
| コード 中程度の関数 | 73.8 tok/s | 618 | 8.6秒 |
| 翻訳 日→英 | 74.9 tok/s | 136 | 2.2秒 |
| 推論 数学 | 74.5 tok/s | 267 | 3.9秒 |
74.6 tok/s。M1 Maxでの7Bモデルは文字通り爆速です。質問してから1〜2秒で回答が完了するレベル。
M1 Max限定 — 大型モデルの世界
M1 Maxの64GBメモリだからこそ動かせるモデルも検証しました。
| モデル | ランタイム | 量子化 | 平均速度 | メモリ使用量 |
|---|---|---|---|---|
| Qwen 3 32B | Ollama | Q4_K_M | 10.9 tok/s | — |
| Qwen 3 32B | MLX | 4bit | 15.6 tok/s | ~19 GB |
| Qwen 3.5 27B | MLX | 8bit | 11.4 tok/s | ~29 GB |
| Qwen3-Coder-Next | Ollama | Q4_K_M | 18.1 tok/s | — |
Qwen 3 32BがMLXで15.6 tok/sで動作。32Bパラメータのモデルが実用的な速度で動くのはM1 Max(64GB)ならでは。M1 Pro(32GB)ではメモリ不足で動作しません。
また、コーディング特化のQwen3-Coder-NextもOllamaで18.1 tok/s。プログラミング補助用途なら十分実用的です。
量子化比較 — 4bit vs 8bit
4bitと8bitの量子化でどれだけ差が出るのか比較しました。
M1 Pro(32GB)
| モデル | 4bit (tok/s) | 8bit (tok/s) | 速度低下 |
|---|---|---|---|
| Qwen 2.5 7B (MLX) | 41.1 | 22.5 | -45% |
| Qwen 3.5 9B (MLX) | 29.7 | 19.7 | -34% |
M1 Max(64GB)
| モデル | 4bit (tok/s) | 8bit (tok/s) | 速度低下 |
|---|---|---|---|
| Qwen 2.5 7B (MLX) | 74.6 | 42.4 | -43% |
| Qwen 3.5 9B (MLX) | 56.9 | 36.3 | -36% |
| Qwen 3.5 27B (MLX) | 18.7 | 11.4 | -39% |
4bit→8bitで速度は34〜45%低下します。前回のGTX 1080Ti記事では58%の低下だったので、Apple Siliconの広帯域メモリの恩恵で8bitでの速度低下が穏やかです。
とはいえ、回答品質の差は体感でほとんどわかりません。4bit量子化がベストです。
GTX 1080Ti vs M1 Pro vs M1 Max — 三つ巴比較
前回記事のGTX 1080Tiの結果と比較してみましょう。Qwen 3.5 9B(4bit量子化)で統一して比較します。
| 項目 | GTX 1080Ti | M1 Pro (32GB) | M1 Max (64GB) |
|---|---|---|---|
| 生成速度 | 34.4 tok/s | 29.7 tok/s (MLX) | 56.9 tok/s (MLX) |
| ランタイム | Ollama | MLX-LM | MLX-LM |
| メモリ | 11GB VRAM | 32GB ユニファイド | 64GB ユニファイド |
| 最大モデル | 9B | 27B | 32B |
| 27Bモデル | 動作不可 | 10.6 tok/s | 18.7 tok/s |
| 32Bモデル | 動作不可 | 動作不可 | 15.6 tok/s |
| 消費電力 | ~250W | ~30W | ~60W |
| 静音性 | ファン有り | ほぼ無音 | ほぼ無音 |
興味深い結果です。
- 9Bモデルの速度: GTX 1080Ti(34.4 tok/s)がM1 Pro(29.7 tok/s)を上回る。CUDAの最適化は強い
- M1 MaxはGTX 1080Tiの1.65倍: 56.9 tok/sで圧勝
- 大型モデル: Apple Siliconの独壇場。27B・32Bが動くのはユニファイドメモリのおかげ
- 省電力: GTX 1080Tiの250Wに対して、M1 Maxは60W程度。電気代が全然違う
「速度だけならGTX 1080Tiでも戦える」けれど、「大型モデル・省電力・静音性」を含めた総合力ではApple Siliconが圧倒的です。
メモリ使用量まとめ
各モデルのメモリ使用量をまとめます。Apple Siliconのユニファイドメモリなので、GPUとCPUで共有される点に注意してください。
M1 Pro(32GB)
- Qwen 2.5 7B 4bit: ~4.7 GB → 余裕
- Qwen 3.5 9B 4bit: ~5.5 GB → 余裕
- Qwen 3.5 9B 8bit: ~9.9 GB → まだ余裕
- Qwen 3 14B 4bit: ~9.1 GB → 余裕
- Qwen 3.5 27B 4bit: ~15.9 GB → メモリの約50%使用。他のアプリと並行注意
M1 Max(64GB)
- Qwen 3.5 9B 4bit: ~5.5 GB → 余裕すぎる
- Qwen 3.5 27B 4bit: ~15.9 GB → 余裕
- Qwen 3.5 27B 8bit: ~29 GB → まだ余裕
- Qwen 3 32B 4bit: ~19 GB → 余裕
M1 Max 64GBなら27B 8bitモデルですら余裕で動きます。64GBのメモリがあると「メモリ不足」をほぼ意識することがありません。
TTFT(最初のトークンまでの時間)
MLXのTTFT(Time To First Token)は全モデルで0.3〜4.6秒と非常に高速です。一方、OllamaはQwen 3/3.5のThinkingモードで見かけ上のTTFTが数十〜数百秒になります。
| モデル | MLX TTFT | Ollama TTFT | 備考 |
|---|---|---|---|
| Qwen 2.5 7B | 0.3秒 | 0.2秒 | どちらも高速 |
| Qwen 3.5 9B | 0.4秒 | 67〜507秒* | Ollamaは内部推論含む |
| Qwen 3.5 27B | 0.7〜2.4秒 | 385〜915秒* | Ollamaは内部推論含む |
* OllamaのTTFTにはThinking(内部推論)トークンの生成時間が含まれます。ストリーミングでは思考トークンも含めて出力されるため、ユーザーが「回答本文」を目にするまでの体感待ち時間はさらに長くなります。
MLXではThinkingトークンも高速に出力されるため、待ち時間のストレスがほとんどありません。
実用性の評価 — 用途別おすすめ構成
| 用途 | おすすめモデル | M1 Pro速度 | M1 Max速度 |
|---|---|---|---|
| 最速レスポンス | Qwen 2.5 7B MLX 4bit | 41 tok/s | 75 tok/s |
| バランス型 | Qwen 3 8B MLX 4bit | 34 tok/s | 61 tok/s |
| 最新+Thinking | Qwen 3.5 9B MLX 4bit | 30 tok/s | 57 tok/s |
| 高品質回答 | Qwen 3 14B MLX 4bit | 19 tok/s | 35 tok/s |
| 最高品質 | Qwen 3.5 27B MLX 4bit | 11 tok/s | 19 tok/s |
| 大型モデル | Qwen 3 32B MLX 4bit | — | 16 tok/s |
| コーディング特化 | Qwen3-Coder-Next | — | 18 tok/s |
向いている用途:
- プログラミングの補助(コード生成、バグ修正)
- 日本語の文章作成・要約
- 翻訳(日英・英日)
- 論理的な質問への回答
- プライバシーが気になるデータの処理(すべてローカルで完結)
- 24時間稼働のAIアシスタント(省電力・静音)
苦手な用途:
- 最新の情報が必要な質問(学習データに依存)
- 画像生成や音声認識(別途モデルが必要)
- Qwen 3.5のThinking暴走による長時間応答(翻訳タスクで顕著)
Apple Silicon MacでローカルLLMを始めるなら、中古のM1 Pro MacBook Proがコスパ最強です。M1 Maxは速度2倍の恩恵がありますが、価格差を考えるとM1 Proでも十分実用的。
まとめ
今回のベンチマークで、Apple SiliconはローカルLLMに非常に適したプラットフォームであることがわかりました。
ポイントをまとめると:
- MLX-LMがOllamaの1.5〜2.3倍速い — Apple SiliconならMLX一択
- M1 MaxはM1 Proの約1.8倍速い — メモリ帯域の差がそのまま性能差に
- M1 Max + Qwen 3.5 9B MLX 4bitで56.9 tok/s — GTX 1080Tiの1.65倍、ChatGPTより速い
- ユニファイドメモリの恩恵で大型モデルが動く — 27B/32Bモデルも実用的
- 4bit量子化がベスト — 8bitとの品質差は体感できないが速度は34〜45%低下
- 省電力・静音 — GTX 1080Tiの250Wに対して30〜60W
「MacでローカルLLMって遅いんじゃない?」と思っている方、MLX-LMを使えばGPUマシンに匹敵する速度が出ます。特にM1 Maxは驚異的な性能です。
中古のM1 Pro/M1 Max MacBook ProはAmazonでも手に入るので、ローカルAI入門にぜひ検討してみてください。
AI開発・ローカルLLM向けのおすすめMac
生成AIをローカルで動かすには、ユニファイドメモリの容量がそのまま扱えるモデルの幅とスピードに効いてきます。最新世代・大容量メモリのPro/Maxモデルをまとめました。
※本記事はアフィリエイトリンクを含みます。価格・在庫は各ショップでご確認ください。





コメントを残す