NvidiaのAI優位性、GPUを超えて拡張

Nvidiaの優位性は、もはやGPUの性能だけではない。新世代のデータセンターシステムでは、トラフィック制御の効率が全体のボトルネックになっている。Vera Rubinアーキテクチャでは、GPUと並んでVeraCPUが配置され、データの運搬を最適化する。GPUに必要なデータを、必要なタイミングで到着させることが、トークン生成速度そのものを左右するからだ。VeraCPUを導入すると、既存のFlashメモリの性能を3倍引き出せるという。つまり、ハードウェアは変わらず、データ流通の工夫だけで3倍高速化する。

AIの鬼が注目する転換ポイントは、競争軸がシフトしていることだ。過去の計算センターは「CPUの性能」で競ったが、次は「データをいかに効率的に流すか」が勝敗を決める。OpenAIがJalapeñoチップを開発した理由も、データ移動の最小化だ。競争が成熟すると、「計算そのもの」から「計算の周辺システム」へ焦点が動く。これはGPUメーカー内部でも起きており、NvidiaはGPUだけでなくCPU・メモリ制御・ネットワークまで一体設計することで、他社の単品競争から逃げ出した。

中小企業にとっての含意は、AIの大規模化が進むにつれ、モデルの精度より「運搬のコスト」が実務を支配するようになるということだ。クラウドAPIで1回の推論に2秒かかるなら、その1秒が何に使われているのか——計算なのか、ネットワーク待機なのか——を見極める必要がある。AI導入後の遅さの大部分は、モデル性能ではなく、データセンター内の無駄な往復だ。ベンダーに「なぜ遅いのか」を聞くとき、GPUのFLOPSではなく「データの移動距離」を質問する目利きが要る。