LLMは推論していないと指摘

AlphaGo と李世石の対局から10年経った今、LLM は当時のような推論をしていないと指摘する内容だ。2016年3月、AlphaGo が打った37手目は人間の直感では考えられない一手だった。棋譜に残る通りそれは奇妙に映ったが、実は AlphaGo が勝利をもたらす着手だったため、解説者たちを驚かせた。ポイントは、この創造的な一手を可能にしたのは「直感」ではなく「推論」だという点だ。AlphaGo は policy network（直感的な判定）と search machinery（ゲームツリーを先読みする推論エンジン）の二つで成り立っていた。推論エンジンが、直感では見えない未来の分岐を先読みし、最良の着手を導き出したのだ。

AIの鬼の視点として、この話は単なる過去のトリビアではなく、現在の AI がどう弱いかを直指している。今日の LLM は「次のトークンを繰り返し予測する」という System 1 的な思考ーー速く、直感的、パターン完成型ーーに頼り切っている。Chain of Thought という手法は一見、推論のように見えるが、実はトークン予測の反復を長くしただけで、根本的な推論メカニズムを持たない。より難しい問題、より創造的な解法を要する領域では、AlphaGo が持っていた「探索による検証」という本質的な武器を欠いている。医学や科学の領域で AI に本当の信頼を置きたいなら、この推論能力の獲得は避けて通れない課題だ。

実務含意としては、複雑な判定や創造性が求められるタスク（法的判断、技術開発、戦略立案）を AI に丸投げするのは危険だ。LLM の出力は確度の高い「予測」だが「推論」ではないため、結果検証や人間による最終確認がなお不可欠である。