4台のM5 Ultra Mac Studioで「データセンター級」メモリ帯域幅4.8TB/s 巨大LLMも高速でローカル実行可能に

Appleが新チップM5 Ultraを搭載した高性能Mac Studioを発表した。これだけなら「性能が上がった」で終わるが、面白いのはEXO Labsによるクラスタ化の実装だ。4台のMac Studioを繋ぐと、合計約4.8TB/秒のメモリ帯域幅を実現できるという。AppleとEXO Labsが1年にわたって開発した専用技術で、MacのThunderBolt 5経由でメモリを直結し、低遅延のデータ転送（RDMA）を実現。その結果、Kimi K3やGLM-5.3といった巨大言語モデルを「API並みの速度」でローカル実行可能になった。処理速度はデータセンター級だが、手元のマシンで動く。M5 Ultraは最大36コアのCPUと最大80コアのGPUを搭載し、1台あたり1.2TB/秒のメモリ帯域幅を持つ。価格は約95万円から。ここに見えるのは「クラウド頼みを脱する」という明確な流れだ。これまでAIを使うなら、APIを経由してどこかのサーバーに計算を預けるのが当たり前だった。OpenAIやAnthropicのAPIを呼び出すたびに通信費がかかるし、会社の機密情報も外に出てしまう。一方で「うちのサーバーで全部実行する」には、従来のオンプレミスでは計算リソースが足りなかった。手元のマシンでは力不足。だからクラウドに頼るしかなかった。だが今は違う。手元の機械でも、複数台を組めば、データセンターに劣らない処理能力が得られる。秘密情報は社内にとどまり、API通信コストも削減される。これは企業にとって「選択肢が増えた」ことを意味する。ただ約95万円の投資は決して小さくない。複数台が必要なら、さらに費用がかさむ。現在のAI導入状況、計算負荷の見通し、情報セキュリティの方針などを勘案して、本当にこれを導入すべきかを冷静に評価する必要がある。導入効果を想定しないで投資すれば、高い買い物になる。