Nemotronのファインチューニング、IOIとIMOで金級結果を達成

Nemotronを土台にした専門特化モデルが、国際情報オリンピック（IOI）と国際数学オリンピック（IMO）の両方で金メダル級の成績を達成したという。出発点はNemotron 3で、教師ありファインチューニング（SFT）と強化学習（RL）、そして生成と評価を繰り返す推論の仕組みを組み合わせた。IOIの結果は、人間の参加者と同じ時間、ネット接続、提出の制約のもとで行われた非公式のベンチマークで、公式ランキングには含まれていない。IMOの提出証明は、公式の採点者が採点したものである。

競技プログラミングでは2万2000問を整理し、推論の例を合成して二つの専門モデルを育てた。小型のNano（総パラメータ300億、推論時の有効パラメータ30億）は、事後学習前の130点から、SFTで280点、RLで291点へと伸びた。そこに反復的な生成・評価・改善の手法を加えると468点に届き、金の基準である438.3点を超えたという。大型のUltra-CCは、2026年のIOIで600点満点中535.4点を記録した。数学ではSFT用に41万4890件の証明データを用意し、証明の生成から検証までを学習させた結果、42点満点中30点を取ったとされる。

AIの鬼の視点で面白いのは、新しい基盤モデルをゼロから作ったのではなく、既存モデルを「特定の仕事に合わせるレシピ」が見えてきた点だ。オリンピックの金メダルは見出しとして派手だが、本当の価値は「どんなデータを、どの順で学習させれば難題が解けるか」が手順として書けるようになったことにある。ただし、これは極端に難しい問題での話であり、社内業務にそのまま当てはまるとは限らない。派手な数字を、自社の仕事に置き換えて考える想像力が問われる。

中小企業にとっての一言は、「自社専用の良い答えの例を集めておけ」である。過去の問い合わせ対応、見積の書き方、不具合報告の処理例などを整理しておけば、汎用モデルを自社向けに寄せるための材料になる。大規模な学習は費用も手間も重いので、まずは社内データの整理と、答えを検証する手順づくりから始めるとよい。