Granite 4.2 LLMの構築方法

Granite 4.2 LLMは、IBMが公開した推論特化型の大規模言語モデル（LLM）のファミリーだ。3B、8B、30Bの3サイズがあり、いずれも約15兆トークンを使ってゼロから事前学習されている。事前学習は5つのフェーズに分けられ、最終段階で文脈長を512Kトークンまで広げている。その後、連鎖思考・推論・エージェント的な行動軌跡のデータで教師ありファインチューニングを行い、多段階の強化学習で仕上げている。8Bと30Bはさらに、サンドボックス化された実環境でツールを使って行動することを学ぶエージェント向けの強化学習を経ている。全モデルに思考モードと非思考モードの切り替え、簡単な問題に短い推論予算だけを割く低負荷思考モード、そしてネイティブなツール呼び出しが備わり、ライセンスはApache 2.0である。

面白いのは、このモデルが「賢さ」を競うより「どれだけ考えるかを自分で決める」方向に舵を切った点だ。人間の社員も、伝票の確認に半日かける人と、ひと目で判断する人がいる。問題の難しさに応じて思考量を調整できるのは、AIを業務に入れる側にとって実はコストと速度に直結する性能である。一方で引っかかるのは、公開されている情報が「設計思想」と「学習の段取り」の説明に偏っていて、実際の業務でどの程度の精度が出るかは記事だけでは判断できないことだ。カタログのスペック表を眺めて導入を決めるのは危うい。ベンチマークの数字より、自社の伝票や問い合わせ文で試してみるのが本音の評価方法だ。また、OpenAI互換のエンドポイントで動き、vLLMやSGLangから呼べるという点は、既存のツール連携を作り直さずに試せるという意味で、業界の標準化が進んでいることを示している。

中小企業の実務で言えば、まず見るべきは30Bか8Bかという大きさの選択と、思考モードのオン・オフである。社内の定型的な問い合わせ対応や文書分類には軽いモデルの低負荷モードを、複数の資料を突き合わせる判断業務には大きめのモデルを当てる、という使い分けが現実的だ。明日からできることは、よくある業務の質問を10件選び、モデルを切り替えて回答の差を自分の目で確かめることである。