世界モデルは「分からない」をどう表すのか

この記事は、未来の予測を一つに決めず「分からない」をどう表すかを扱っている。これまでのモデルは、現在の状態と行動から次の状態を一つだけ出していた。それを平均と標準偏差のペアに変え、答えを一点から範囲へ広げるのが要点だ。ばらつきには二種類あり、世界そのものの偶然による不確実さは、データを増やしても消えない。一方、モデル自身の知識不足による不確実さは、経験を積めば減っていくと期待される。前者はaleatoric、後者はepistemicと呼ばれる。複数のモデルの意見が割れれば知識不足のサイン、と捉えるのがアンサンブルの発想である。

AIの鬼の視点で言えば、一番の読みどころは「自信満々に外すAIは、正直に分からないと言うAIより危険だ」という点だ。学習の仕組みでは、平均を外せば罰され、かといって何でも大きなばらつきで逃げても罰される。その結果、AIは当たりやすい場所では狭く、分からない場所では広く答えるよう鍛えられる。現場の言葉にすれば、熟練の職人が「ここは触ってみないと分からない」と言えるのは一人前の証拠であり、何でも即答する新人のほうが怖い。この記事は、AIに正解を求めるのではなく、どこまで確信があるかを一緒に出させる設計思想を説いている。

さらに記事は、未来が一つに定まっているのかという哲学的な問いについても、モデルが複数の未来を出すことと宇宙が本当にランダムであることを混同しないよう線を引いている。風、他人の行動、測定誤差、学習不足が混ざっている可能性を分けて考える必要がある。

中小企業の実務に効かせるなら、AIに在庫や需要の見通しを出させるとき、「いくつ」だけでなく「どれくらい幅があるか」と「過去に似た条件があったか」を一緒に聞くことだ。幅が広い予測や経験のない条件の予測は、判断を人が引き取るサインとして扱えばいい。