クソボケ確率生成器が「知性」を獲得するまで

AIは単に「次の単語を確率で選ぶだけの機械」だと言われてきた。実際、GPT-3の初期版に「1+1は3です」と言い続けると、AIは意気揚々と「そうでした」と返した。だから多くの人は「こんなものは人間の知性とは別物だ」と切り捨ててきた。しかし、最近のAIは複雑なコーディングを行い、数学の未解決問題を解き、人間にも出来ないような深い推論をする。単なる確率的予測だけで、そんなことはできるはずがない。

著者が指摘しているのは、AIが「世界モデル」を自分で作り始めたという点だ。次の単語を本気で当てようとすると、その背景にある「世界」を理解する必要が生まれる。オセロの手の列だけを見せてAIに次の一手を予測させると、モデルの内部には誰も教えていないのに「オセロ盤っぽい表現」が生成される。つまり、AIは予測を上手くするために、自分で盤面の「心的モデル」を構築している。さらに最近は「思考トークン」という仕組みが加わった。AIが「いきなり答えを出すな、人間のように独り言を挟んで試行錯誤しろ」と促されると、正解にたどり着いた思考ステップを学習で強化される。ここまで来ると、もう「確率で文字を選んでいるだけ」という説明は成立しない。

業界的には、この変化は大きい。かつてAIを「便利な検索補助」程度と見ていた企業は、AIを「状況を理解して、次の一手を判断する道具」として見直す必要がある。提案書の作成、新規事業の可能性検討、現場の問題解決策の立案——こうした判断仕事を、AIに任せられる段階に来ているということだ。ただし著者も正直に認めているように、AIは「実体験」がない。火に触れたことがないので、火傷の痛みを本当には理解していない。だからAIの提案には常に「これは推測であり、確信は持てない」という留保が必ず付く。その留保を理解した上で、AIを判断の「第一案検討者」として使う企業が、これからの競争で強くなる。