「スマホで動く」270億パラメーターLLM「Bonsai 27B」登場

270億パラメーターという大型言語モデル「Bonsai 27B」が、iPhoneで実行可能な容量に圧縮されたという発表があった。これまでAI利用といえば、クラウド上のAPI経由が当たり前だった。ChatGPTもGeminiも、ユーザーがテキストを送信してからサーバーで処理され、結果が返ってくるという遅延が必ず発生していた。それが、スマートフォン単体で生成AIを動かせるようになったということだ。

なぜこれが重要か。第一に、プライバシーが大きく改善される。ユーザーのテキストがクラウドに送信されず、ローカルで処理されるため、機密情報が外部に漏れるリスクが減る。第二に、オフライン環境で動作する可能性が生まれた。インターネットに接続できない現場でもAIが使える。第三に、レイテンシが消える。ユーザーの質問に対して、リアルタイムで応答できるようになる。ただし、冷静に見れば、27Bというモデルサイズはまだ「比較的大きい」部類だ。実際の精度・速度・消費電力のバランスがどうなのか、実運用での検証はこれからだ。重要なのは「完璧な完成形」が生まれたのではなく、「スマホでAIが動く時代がやってきた」という証拠が見えたということ。

中小企業にとっての含意は明確だ。今後、スマートフォンアプリにAI機能をネイティブ組み込みする道が開かれる。クラウド依存から脱し、デバイス単体で判断できるシステム設計が可能になる。製造現場の検査、営業資料の作成、顧客対応の自動化、こうした業務がすべてアプリ内で完結でき、プライバシーとレイテンシの心配が不要になる。エッジAIの時代がいま扉を開けようとしている。