【ArcAsha-OS】スマホ分散AIの適応型ルーティングで発生した「能力逆転現象」を Confidence-Aware Bayesian で解消した話

スマホの分散AI化は、理想的にはこうなるはずです。数学問題が来たら数学に強い端末へ、コーディング問題が来たらコーディングに強い端末へ、タスク性質に応じて最適な処理先に割り当てる「適応型ルーティング」です。ところが開発の現場では、想定外の挙動が起きました。数学に強いはずの端末の評価が一時的に下がり、ルーターが「コーディング専門の端末のほうが数学が上手だ」と判断してしまう「能力逆転現象」です。

原因はルーターのアルゴリズムではなく、評価関数の信頼度不足でした。ルーターは単純移動平均で能力値を更新していたため、試行回数が少ない段階でたった一回の失敗が起きると、評価値が急降下してしまいます。つまり「確信度の低い評価値を愚直に信じ切ってしまう」評価関数が根本原因でした。これは分散AIの実装で見過ごされやすい落とし穴です。

解決策はConfidence-Aware Bayesian Update（信頼度重み付きベイズ更新）です。試行回数に応じて評価値の信頼度を数学的に重み付け、試行回数が少ないうちはサンプル不足の影響を受けにくくしました。結果、能力逆転現象はなくなり、タスクに適したノードへ安定してルーティングされるようになりました。

これが示す教訓は、分散AIのボトルネックは通信速度や演算能力ではなく「誰が何をどこでやるか」の動的判断にあるということです。評価関数の精度が適応型AIの限界を決めます。エッジデバイスのAI化が進むほど、「十分なサンプルが取れるまでは確信を持つな」という原則が重要になってきます。スマートフォンという限られたリソースの中で分散推論を最適化しようとするなら、統計的な厳密さ抜きには成立しないということが、この実験から見えてきます。