LFM2.5-2.6Bでローカルエージェントをあらゆる場所にデプロイ

Liquid AIが小型エージェントモデル「LFM2.5-2.6B」を公開しました。わずか2.6億パラメータながら、Apple M5 Maxで毎秒220トークン、AMD Ryzen CPUで毎秒113トークンの速度を達成し、メモリ使用量は2.5GB以下です。驚くべきは、このモデルが大規模言語モデルで一般的な「大きいほど強い」という常識を覆しているということです。ツール使用と指示理解の能力では、4倍大きいモデルと同等かそれ以上の性能を発揮し、知識や推論の領域ではほぼすべてのベンチマークで競争力を持っています。唯一の弱点はコード生成ですが、その他の領域ではより大きなモデルを不要にするレベルの性能です。

ここで面白いのは、これが「大型モデルが不要になった」という話ではなく、「選択肢の多様化」の到来を意味しているという点です。これまでのAI選択は「クラウドAPIか、ローカル実行か」の二者択一で、小規模モデルは「精度を諦めたもの」と見なされていました。しかしLFM2.5のような勢力が増えれば、企業は「データを外に出したくない」という要件を「コスト最適化」と矛盾なく同時に満たせるようになります。これまで、セキュリティとコストは対立軸でした。秘密情報を外に出さないなら、オンプレミスで大型モデルを自前で運用するしかなく、それは莫大な計算コストを意味していたからです。ところがLFM2.5なら、普通のサーバーやラップトップで十分に動き、むしろ費用は下がります。AIの鬼的には、これは「金銭的弱者の逆転勝ち」を可能にする道具です。

さらに興味深いのは、このモデルがスマートフォンでも動作する速度を達成したということです。記事では「30 tokens/s」で動作可能と述べられています。これは、現場作業員が手に持つiPhoneやAndroidデバイスで、リアルタイムにAIの判断支援を受けられることを意味します。製造現場で品質検査を行う際に、スマートフォンのカメラで撮影した画像をその場で分析する。営業現場で顧客情報に基づいた提案を即座に生成する。これまでクラウドとの往復通信を前提としていた使い方が、完全にオンデバイスで完結するようになります。

中小製造業にとって、この進展は想像以上に現実的なインパクトを持ちます。これまで「AIを導入したいが、図面やレシピを見られたくない」という懸念は、クラウドサービスの契約リスクとセットでした。データセンターに置かれたサーバーで処理されるなら、その過程で情報が漏れるかもしれない。ベンダーの従業員が見るかもしれない。AIの学習データに使われるかもしれない——こうした不安は実質的でした。LFM2.5のようなモデルなら、会社のサーバーやNAS上で完全にプライベートに運用できます。さらにスマートフォン対応なら、現場で即座に意思決定を支援できます。技術的な障壁は、もう言い訳になりません。