Mac Studio M5 Ultraの標準構成で、ローカルLLMを実際に仕事で使っています。OllamaでQwen3.8-27Bを動かし、海外ニュースの要約や、ニュースレターを作るための資料整理を任せています。買った日にチャットを試して終わり、という使い方ではありません。
ただし、「仕事で使える」には注釈がつきます。個人として、自分で仕事を切り分け、結果を確認するなら使える、という意味です。複数の社員が毎日使う仕組みとして、同じ構成を勧めるわけではありません。
もう一つ、以前と考えが変わったことがあります。大きなモデルを手元で動かしたい個人にとって、Macのユニファイドメモリは魅力的でした。ところが、Strataを使うと、GeForce RTX 3060を積んだWindows PCでもQwen3.8-Flash-Nextを動かせます。自分はこれで、ローカルLLMのためならMacを買うのが割に合う、という見方には終止符が打たれたと思います。
標準構成で約95万円。Mac Studioは誰にとって割に合うのか
自分が使っているのは、M5 Ultraを搭載したMac Studioの標準構成です。日本でのApple直販価格は税込949,800円。CPUは30コア、GPUは64コア、ユニファイドメモリは96GB、SSDは1TBです。メモリ帯域幅は公称1.2TB/sです。Appleの技術仕様、国内発売時の価格
ローカルLLMを使ううえで注目したのは、96GBのユニファイドメモリです。一般的なデスクトップPCで独立したGPUを使うと、CPU側のメインメモリと、グラフィックスカード上のVRAMは分かれています。たとえばPCに64GBのRAMがあっても、VRAMが12GBなら、GPUが64GBを同じ速度で使えるわけではありません。モデルの一部をCPU側で処理したり、必要なデータをGPUへ移したりする方法はありますが、その分、処理の仕方が変わります。
Appleシリコンでは、CPUとGPUが同じメモリを共有します。「GPUがCPUのRAMも使える」と説明するとわかりやすいですが、正確には、最初からCPU専用とGPU専用に分かれていないメモリを両方が使います。モデルを動かすために大容量VRAMのグラフィックスカードを別に買う必要がない。ここがMacの利点でした。
もちろん、96GBを丸ごとモデルに渡せるわけではありません。macOSやほかのアプリも同じメモリを使います。LLMも、モデルの重みだけを置けば終わりではありません。入力した文章を処理するための作業領域や、回答を生成する間に参照する情報も保持します。モデルのファイルサイズと、仕事で使うときに必要なメモリは違います。
それでも、自分が普段使うMacに、大きめのローカルモデルを動かせるメモリも付いてくると考えると、話は変わります。仕事用のデスクトップと推論用のPCを別々に持つ場合に比べ、機器を一台にまとめられる。自分にとってのコストパフォーマンスは、そこにあります。
約95万円のパソコンを「コスパがいい」と言われても困る、という人には、そもそもこの構成は向いていません。ローカルLLMを試すためだけに買うには高すぎます。普段の仕事にもMacを使い、そのうえでモデルを手元で繰り返し動かす。そういう人が、別の機器を買う場合と比べて初めて成り立つ評価です。
OllamaとQwen3.8-27Bで、どこまで仕事を任せられたか
自分のMac Studioでは、OllamaとQwen3.8-27Bの組み合わせが、いま日常の仕事に組み込めている実用上の上限です。これは、96GBのMac Studioでは27Bより大きなモデルが起動しない、という意味ではありません。自分が使っている実行方法で、資料を読み込ませ、待てる時間内に、仕事に使える結果が返るところまで含めた判断です。
たとえば、毎日の海外ニュース要約では、記事の原文をQwenに渡し、日本語の要約とタイトルを作らせました。出来上がった文章の校正は別のモデルに任せます。原文を読んで要約する工程をMacへ移せたので、クラウドのモデルが毎回原文を読んで文章を書く必要がなくなりました。ニュース要約をローカルLLMへ移した実験
週次ニュースレターの実験では、159本分の記事を材料に、整理、構成、執筆をローカルのQwenへ移しました。この比較で、従来方式に対するフロンティアモデルの非キャッシュ入力と出力の合計は65.9％減りました。ただし、制作方式としては従来のやり方を維持しました。原稿を作れてトークンが減ったことと、配信する記事として同じ品質を得られたことは、分けて判断したからです。ニュースレター制作実験の結果
使ってみてわかったのは、資料を多く渡せることが、必ずしも仕事を任せやすくするわけではないことです。たとえばニュース記事なら、誰が何を言ったのかを判断するために、引用の前後は残した方がいい。一方で、記事の要約を頼むたびに制作工程全体の規約を読ませる必要はありません。仕事に必要な文脈を残し、依頼を短くした方が、自分の用途では扱いやすくなりました。
ここで言う「使える」は、同じ作業を繰り返し任せられ、結果を自分で読んで判断できる、ということです。要約が期待と違ったら、元の記事を見て直せます。待ち時間が長ければ、別の仕事を進めることもできます。そうやって入力や工程を調整できるから、個人の仕事では十分に価値があります。
逆に、仕事のたびに入力を手で整え、毎回出力を大きく書き直すなら、手元で動いても割に合いません。ローカルでは推論のたびにクラウドAPIの従量料金を払わずに済みますが、機器の代金も電気代も、設定や手直しにかかる時間もあります。トークンが減ったという数字だけで、約95万円を回収できるとは言えません。
Strataは、なぜVRAMが12GBのPCで125Bモデルを動かせるのか
M5 Ultra搭載のMac Studioが日本で発売されたのは、2026年9月22日。その3日後の9月25日（日本時間）に、Strataの初版が公開されました。しかも、公開から約1カ月半でGitHubのスターは4万を超えました。
約95万円のMac StudioでローカルLLMを動かす価値を考えていた、まさにそのタイミングで、手持ちのWindows PCで大型モデルを試すという選択肢が出てきたわけです。自分の仕事にMac Studioは今も役立っています。ただ、ローカルLLMのためにこれからマシンを買うなら、まず手持ちのPCでどこまでできるかを考えます。
Appleの発売案内・Strataの初回リリース・GitHubスターの推移
Strataは、PC上でLLMを動かすためのオープンソースの推論ソフトです。Windows、Linux、Apple Silicon Mac向けに配布され、デスクトップアプリから対応モデルを選んで使えます。Windowsで注目したのは、グラフィックスカードのVRAMにモデル全体が入らなくても、Qwen3.8-Flash-Nextを実用を考えられる速度で動かした例があることです。Strataの公式リポジトリ
Qwen3.8-Flash-Nextは、本体が125B、つまり約1,250億パラメーターのモデルです。これに加えて、短い語句の並びを参照する約510億パラメーターの表もあります。ただし、回答を一トークン進めるたびに使う本体のパラメーターは約60億です。Qwen3.8-27Bが約270億パラメーターを使うのとは、計算の仕方が異なります。Qwenチームのモデル仕様
Flash-Nextは、計算の一部を「エキスパート」と呼ぶ小さな単位に分けています。各トークンを処理するときに、必要なものだけを選ぶ方式です。MoE（Mixture of Experts）と呼ばれます。一度に使うのは一部でも、次のトークンでは別のエキスパートが必要になるため、使わない分を捨てられるわけではありません。そこでStrataは、モデルを構成するデータの置き場所と、どこで計算するかを工夫します。
独立GPUを積んだPC向けの実装では、よく使うエキスパートをGPUのVRAMに置きます。そこに置けなかったエキスパートは、構成に応じてメインメモリ側に置き、CPUで計算します。SSDには、トークンごとに一部を引く参照表を置けます。設定によっては、メモリに収まりきらないエキスパートもSSDから読み出します。モデルの全体を毎回SSDから読み直すのではなく、必要な部分を使い分ける仕組みです。Strataの実装解説
もう一つ効いているのが、モデルの数値を少ないビットで表す量子化です。Strataでは、同じFlash-Nextにも複数の量子化版があります。小さい版は少ないメモリで動かしやすい一方、元のモデルと同じ答えを期待できるわけではありません。資料に書かれた数字を正確に拾う仕事と、案を何本か出す仕事とでは、その違いの重みも変わります。Strataのモデル選択ガイド
では、どんなWindows PCで、どのくらい動くのでしょうか。Strataのリポジトリに掲載されたコミュニティの実測では、Core i7-12700、RTX 3060のVRAM 12GB、メインメモリ64GB、NVMe SSD、Windows 11 Proという構成で、Flash-NextのIQ2_XS版を動かしています。これは自分の計測ではありませんが、構成と待ち時間が明記されているので参考になります。
| 入力の長さ | 最初の応答まで | 出力速度 | 応答完了まで |
|---|---|---|---|
| 約4,100トークン | 5.0秒 | 45.5トークン／秒 | 10.6秒 |
| 約32,800トークン | 35.4秒 | 40.8トークン／秒 | 41.5秒 |
| 約128,000トークン | 143.6秒 | 37.6トークン／秒 | 150.1秒 |
各条件で3回測った中央値です。Strata 0.1.41を使い、1件ずつ処理し、出力は256トークン。人工的に作ったコードの入力で、モデルの起動や事前の準備にかかる時間は含みません。同じIQ2_XS版の26万トークンの試行は、測定側のメモリ使用量の制限で中止されています。RTX 3060での公開実測
短い依頼なら、返事を待ちながら作業を続けられそうな数字です。一方、約12万8,000トークンを渡すと、最初の応答まで2分以上かかっています。「毎秒約40トークン」とだけ聞くと速く感じますが、それは主に答えが出始めてからの話です。資料を読ませる仕事では、最初の答えが出るまでの時間も見ないと、自分がどれくらい待つかはわかりません。
そして、これは「どんな標準構成のWindows PCでも動く」という話ではありません。VRAM 12GBのGPUに加え、64GBのRAMとNVMe SSDを備えたPCです。それでも、専用サーバーを用意せず、市販のPC向け部品で125B級のモデルを扱えることは大きい。すでに条件を満たすPCを持っている人なら、ローカルLLMのためにもう一台、約95万円のMacを買う理由は弱くなります。
StrataはMacにもある。それでもMacを買う理由は変わった
StrataはMacでも動くようになりました。2026年11月7日公開の通常リリース v0.2.12 に、Apple Silicon向けのMac用DMGが含まれています。公式に配布されている、という意味では、すでに使える版があります。Strata v0.2.12の公式リリース
一方、開発元はMac向けのMetalエンジンを「new」と説明しています。公式ガイドが計測機として挙げているのはM5 Max、M4、M1 Maxの各構成で、M5 Ultraの標準構成はそこに含まれていません。96GBのMacにはFlash-NextのIQ3_S版が標準の選択肢として案内され、必要メモリは約63GBとされています。Mac版は公式配布済みですが、自分の96GBのM5 Ultraで同じ仕事をさせた場合の速度や品質は、この記事では確認していません。 StrataのMac向け公式ガイド
OllamaにもFlash-NextのMLX版が掲載されています。ですから、「Macでは27Bまで、Windowsなら125Bまで」と機種の限界を引くのは正確ではありません。比較しているのは、自分がOllamaで27Bを仕事に使っている環境と、StrataでFlash-Nextを動かした公開事例です。実行ソフトや量子化、入力の長さが違えば、同じ機器でも結果は変わります。OllamaのFlash-Next配布ページ
それでも、Macのコスパ神話には終止符が打たれたと思います。以前なら、大容量のVRAMを持つGPUは高い、そこで大きなモデルを手元で動かすならメモリの多いMacを選ぶ、という話が通りやすかった。今は、手持ちのWindows PCでモデルの置き方や実行方法を工夫する選択肢があります。しかも、その工夫はMacにも使えるようになってきました。
すでにMac Studioを持っていて、27Bで必要な仕事が回るなら、買い替える理由にはなりません。逆に、これからローカルLLMのためだけに機器を買うなら、最初からMacを前提にする理由もありません。どちらが割に合うかは、モデル名の横に付いた数字より、自分が使う資料を入れて、修正まで含めて何分で仕事が終わるかで決まります。
法人で共用するなら、vLLMとBlackwellを考える理由がある
ここまでは、一人で使う場合の話です。会社の仕事をしていても、自分がMacでニュース要約を作り、自分が結果を読むのであれば、運用の形は個人利用です。法人名義で買った瞬間に、サーバーが必要になるわけではありません。
条件が変わるのは、社員や社内システムが同じモデルを共用するときです。一人が長い資料を読み込ませている間に、別の人が短い質問をする。朝のバッチ処理中も、社員からの問い合わせには返事をする。障害が起きれば、担当者以外も状況を把握して復旧できる必要があります。一人なら自分で調整していた待ち時間が、会社ではほかの人の仕事を止めます。
その規模で自社運用するなら、自分はOllamaやStrataを個人用の延長で置くより、まずvLLMを候補にします。vLLMは複数の要求をまとめて処理しながら、終わった要求と新しい要求を入れ替えられます。長い入力を分けて処理したり、同じ指示や資料の冒頭を繰り返し使う場合に、その処理結果を再利用したりする機能もあります。一人の回答が何秒で出るかに加え、何人かが使ったときに待ち時間をどう抑えるかを考えられるソフトです。vLLMの公式ドキュメント
ハードウェアなら、NVIDIAのBlackwell世代を使ったサーバーが候補になります。たとえばRTX PRO 6000 Blackwell Server Editionは、GPU一基に96GBのGDDR7を備えます。Mac Studioも96GBですが、こちらはGPU用のメモリです。同じ容量の表記でも、何がそこに載るのかが違います。必要なGPUの数は、モデルのサイズだけでなく、入力の長さや同時に処理する件数で決まります。NVIDIAのサーバー向けGPU仕様
価格の水準も変わります。国内の販売例では、このServer Editionのカード一基に330万円を超える掲載価格があります。サーバー本体や保守を含む見積もりとは別です。逆に、このカードがなければ法人で使えないという意味でもありません。小規模な試験や利用者が限られた仕事なら、もっと小さい構成で始められます。国内販売店の掲載価格例
サーバー1台で動かせるモデルの代表例はDeepSeek-V4-Pro
Blackwell搭載サーバーで、実際にどのくらい大きなモデルを動かせるのか。代表例は、総パラメーター数が1.6兆のDeepSeek-V4-Proです。Strataの例で取り上げたQwen3.8-Flash-Nextのモデル本体（1,250億）と比べて、約13倍の規模です。DeepSeek-V4-ProもMoEで、1トークンの処理で使うのは約490億パラメーターです。モデル全体の規模と、トークンごとの計算に使う規模には差があります。DeepSeekのモデル仕様
vLLMは、NVIDIAのB300を8基積んだHGX B300サーバー1台でDeepSeek-V4-Proを動かす構成を公開しています。GPUメモリは1基あたり288GB、8基で公称約2.3TBです。8基をNVLinkでつなぎ、モデルを分担して処理します。NVIDIAも、モデルが配布時に採用している低精度形式を使い、この構成で推論性能を測っています。測定例の入出力はそれぞれ1,000トークンです。社内で長い資料を読み込ませるときの応答速度は、その条件で測る必要があります。NVIDIAのハードウェア仕様、vLLMの構成例、NVIDIAの推論ベンチマーク
ほかにも、7,540億パラメーターのGLM-5.3には、B200やB300で4ビット量子化版を配信するvLLMの構成例があります。さらに上の規模では、NVIDIAが2.8兆パラメーターのKimi K3を、GPUを72基つないだGB300 NVL72のラックで測定しています。ここまで来ると、サーバー1台の話から、ラック単位で推論基盤を組む話に変わります。GLM-5.3のvLLM構成例、Kimi K3のラック規模での測定
複数人で使う場合、GPUメモリにはモデルの重みのほかに、処理中の入力や生成済みのトークンを参照するための領域（KVキャッシュ）も必要です。長い資料を扱う人が重なれば、その領域も増えます。自分なら、普段の資料の長さと同時に使う人数を決めて、最初の返事が出るまでの時間と、その後の生成速度を測ってから構成を選びます。vLLMの性能調整ガイド
本番で共用する場合に買っているのは、パラメーターの大きなモデルを起動できることだけではありません。社員が必要なときに使え、複数人が重なっても仕事を続けられ、止まったときは復旧できることです。vLLMやBlackwellを選ぶ理由も、そこにあります。求める待ち時間と利用者数を決めずに、高いGPUを買っても、その費用が必要だったかはわかりません。
自分にとってMac Studio M5 Ultraは、今もローカルLLMで仕事ができる良い機械です。Ollamaと27Bで、実際に任せられる工程があります。でも、それは約95万円のMacがローカルLLMの入場券だという話ではありません。Strataは、すでに持っているPCで試せる範囲を広げました。個人なら、まず自分の仕事が手元の機器で回るか。法人で共用するなら、何人が、どれだけ待てば仕事を続けられるか。買う機械を考えるのは、その答えが出てからでいいと思います。