Macでの推論は「動けばいい」から「選べる」へ。PyTorch 2.15のMPSが変えるもの

MoEモデルのデコードが、前バージョンの約6.5倍速くなる。Macで開発や推論を行うチームにとって、無視しにくい数字です。

Hugging FaceのPyTorchチームによる MPS in PyTorch 2.15 は、MacのGPUバックエンドであるMPSの改善をまとめた記事です。要点は次の3つです。

追い風は「カーネルの置き換え」にある

背景にあるのは、MPSGraphから専用のMetalカーネルへの置き換えです。同チームは、2026年初頭のMPSでは小さなモデルでも未対応の演算や性能の急落、想定外のメモリ増加を回避する作業が必要だったと述べています。2.15ではそれを実モデルで洗い出し、上流のPyTorchで直しています。

この方向性なら、個別のチューニングではなく土台の改善として効いてくると考えられます。複素数のLU分解や三角行列ソルバといった線形代数、音声・動画・学習向けの高速化も同じ流れです。

恩恵が大きいのは、手元のMacでプロトタイプを回すエンジニアです。FP8でメモリが半分になれば、同じ機材で扱えるモデルの幅が広がります。デコード速度が毎秒60トークン前後まで来れば、対話的な検証も現実的な範囲に入ります。

なお、速度の数値は最上位クラスのM3 Ultraでの結果です。自分の機材とモデルで再計測するまでは、目安として扱うのが妥当です。

判断の軸は、「クラウドGPUに出す前の検証をMacで済ませられるか」という点に置けます。2.15を機に、自社で使うモデルを1つ選んでMPSで動かし、速度とメモリを測ってみる価値があります。Macを「動けばよい環境」から「選べる実行環境」として扱えるかどうかが、開発コストの見直しにつながります。

関連記事

参考文献