PrismMLの小型LLM、AI利用を変革へ

小型言語モデルの圧縮技術で業界を揺さぶるスタートアップが現れた。Caltech発のPrismMLが発表した「Bonsai 2 27B」は、阿里巴巴（アリババ）の広く使われるQwen3.8 27Bを、元のサイズから9～10倍小さい5.9GBにまで圧縮させながら、98%のベンチマーク性能を保持している。PC、そして高性能スマートフォンにも搭載可能なサイズだ。

なぜこれが重要なのか。AIの世界では「大きいほど賢い」という神話が支配してきた。ChatGPTやClaudeのような巨大モデルが当たり前になった時代に、ここへ来て「小さくても十分」という逆説が技術的に証明された。圧縮には独自の「三値重み」という技術を使っており、通常は16ビット必要な重みを、+1、-1、ゼロの3値だけで表現する。つまり、モデルが学習で蓄積する情報を劇的に削ぎ落としながらも、中核的な「考える力」は失わないという手腕だ。

だが、ここからが面白い。AIの鬼が見ているのは、この圧縮技術そのものよりも、それがもたらす可能性の転換だ。大型モデルの時代には、企業はAPI経由でOpenAIやAnthropicのサーバーに依存せざるを得ず、通信速度、コスト、そして何より「自分たちのデータをサーバーに送信する」というリスク回避できなかった。ところが、Bonsai 2のようなモデルがデバイス上で走れば、データは外に出ない。企業秘密をAI企業に預けずに済む。通信コストもかからない。さらには、自社用にモデルを改造・カスタマイズする自由度も生まれる。

中小企業にとって、この変化は劇的だ。今まで「AI化にはクラウド契約が必須」と思い込んでいた経営者も多いはずだが、オンプレミスで完結するAI環境が現実味を帯びてきた。初期投資は必要だが、ランニングコストは限定的だ。また、製造業のように外部へのデータ流出が致命的な業界こそ、この技術の価値が最大化される。PrismMLの前作「Bonsai」が1100万回ダウンロードされた事実は、こうした需要が市場に確実に存在することを証明している。