AndroidアプリでオンデバイスモデルとクラウドモデルでAIを実行する

Googleが公開したFirebase AI Logicの実装ガイドは、「ハイブリッド推論」という響きの良い技術を解説している。オンデバイスモデルとクラウドモデルを組み合わせ、デバイスで実行できるなら端末内で、できなければクラウドにフォールバックするという設計だ。メリットは明確で、プライバシー強化、無料での推論実行、そしてオフライン機能が実現される。これはまさに「理想的な構成」に見える。

だがAIの鬼として細部を見ると、「ハイブリッド」という言葉の理想性と現実のギャップは極めて大きい。実装上の制限が非常に多いのだ。対応デバイスが限定的（例えばPixel 9 Proなど高性能端末のみ）、AICore というシステムアプリが必須、ブートローダーはロック状態である必要があり、トークン制限（入力4,000トークン以下、出力256トークン以下）、対応言語が英語と韓国語での検証が中心という具合だ。つまり、実運用ではオンデバイス推論に「フォールバック」するのではなく、「大半の場合クラウドに頼る」という実態が正直に露呈している。オンデバイス推論は、あくまで限定的なケースでしか動作しないのだ。試験運用版というステータスも、まだ安定性が確立していないことを物語っている。

中小企業がアプリを開発する際の実務含意は、慎重さと現実主義である。「プライバシー重視でオンデバイス実行」という謳い文句は、技術的には正しくても、実運用では多くの場合クラウド依存になると認識すべき。完全なオンデバイス実行は、現時点ではアプリの付加機能程度に考え、基本機能はクラウド前提で設計する方が賢明だ。「ハイブリッド」という言葉に惑わされず、実装の制約を十分に理解した上で採用を判断することが重要である。