GPUを燃やさないために - RTX 5090にパワーリミットをかけると、性能はどれだけ落ち、どれだけ冷えるのか -

「GPUを燃やさないために」と題して、GeForce RTX 5090にパワーリミットをかけたときの性能低下と冷却効果を実機で検証した記録である。定格575Wを400Wまで絞り、8種類のワークロードと4段階のパワーリミットで合計133回の計測を行った。ホットスポット温度とVRAM温度の追加実験まで含めた、かなり踏み込んだ検証になっている。使用したのはPalit RTX 5090 GameRockで、室温25℃にエアコンで管理された環境という、冷却条件としてはほぼ理想的な場所での結果である。 引っかかるのは、「性能が落ちるかどうか」より「どの仕事なら落ちないか」だ。400Wでも性能低下は最大11.4%で、多くのワークロードは5〜9%に収まった。一方、LLMの単一ストリーム推論や、平均電力が400Wを下回るXGBoostはほぼ影響がない。電力効率で見ると400Wが最良で、演算律速の学習や画像生成では同じ仕事を14〜23%少ない電力量でこなせた。面白いのは、Unsloth SFTは平均電力が451Wと上限に届いていないのに、最も敏感だった点だ。平均電力の数字だけで影響を読むと外す。瞬間的な重い区間が上限に当たるかどうかが効く。VRAM温度の平均がほとんど下がらなかったことも、GPU全体を冷やせば済むという思い込みに釘を刺している。 中小企業でAI用のGPUマシンや推論サーバーを運用するなら、電気代と機材寿命の両方が効く。並列数が少ない推論用途なら、電力を絞っても体感差はほとんど出ない。学習や画像生成を回す機材は、性能が最大11.4%落ちる代わりに電気と熱を大きく減らせる。夏場の室温や密閉ケースでは温度がこの記事より高くなる点にも注意が要る。明日からは、機材を買い替える前に、ワークロードごとに「どこまで落としても困らないか」を一度書き出してみると判断が早くなる。