Granite Switch 4.1、チャット・判断・音声を単一のエンドポイントで提供

IBMが公開したGranite Switch 4.1は、チャット、判断（デシジョン）、音声認識を単一のモデルとエンドポイントで扱えるようにしたモデル群だ。対象は8Bと30Bの2サイズで、それぞれに新たな汎用判断用のアダプター（aLoRA）、安全性判断に特化したガーディアン用アダプター、そして高速な音声認識モデルのGranite-Speech-5.0-Turbo-CTCが組み込まれている。これらはベースモデルと合成されており、GPU上でのメモリ消費はおおむねベースモデル単体と同程度とされる。

AIの鬼の視点で面白いのは、「汎用モデルを1つ買うより、用途ごとの小さな専門家を同じ土台に乗せる」という発想の転換だ。これまで判断タスクは、Jevのような大きな汎用モデルに任せるのが常識だった。しかし同社の主張では、特化型アダプターの方が特定の分類タスクで汎用モデルを上回ることがあるという。アダプター同士がKVキャッシュを共有するため、専門家を増やしても追加コストがほとんどかからない、というのが肝だ。ただし引っかかるのは、比較の多くが同社の発表とベンチマークに基づいている点である。「速い」「勝った」という数字は、実運用の環境や条件で同じように出るかは別に検証が要る。例えばDoomを操作する3Bモデルの話は、技術デモとしては痛快だが、業務の判断精度とは直接結びつかない。

中小企業の実務に効くのは、「1つのモデルで複数の仕事をまとめられる」可能性だ。例えば通話の録音を文字に起こし、要点を要約し、社内で定めたNG表現を検出する、といった一連の流れをGPUを増やさず回せるなら、導入の壁はかなり下がる。ただし、導入前には自社の業務データで必ず精度を確かめること。デモの速さではなく、自社の判断が合っているかを見るべきだ。