「AIがAIを作れるようになる確率は2027年に50%超」 Anthropic共同創業者が予測を前倒し、「ただし実行は“片道切符"」

米Anthropicの共同創業者ジャック・クラーク氏は、AIが自らの後継システムを訓練できるほど強力になる確率を「2027年に50％超」と述べた。年初に示していた予測を前倒ししたかたちである。講演は東京大学大学院の松尾・岩澤研究室が主催したもので、10月13日に行われた。ただし、能力を持つことと実際にそれを使うことは別の問題だと同氏は強調している。AIがAI自身を改善する「再帰的自己改善」は一度始めれば戻れない「片道切符」であり、実行するかどうかは企業だけでなく政府や社会全体が決める選択だという。

ここで膝を打つのは、クラーク氏が能力の予測と実行の判断を明確に切り離している点だ。予測の数字だけを見ると「AIが勝手に進化する」という怖い話に聞こえるが、本音は逆で、人間が止める仕組みを先に作らなければ危ないという警告である。同氏は、社内のコード作業の26％がAI主導になったと明かしながら、人間の役割を「アンドン」に例えた。トヨタ生産方式で異常を見つけたら生産ラインを止める紐のようなものだ、という比喩である。自動化を進めるほどリスクも上がるのに、それを観測し止める仕組みがまだ追いついていない。これが「この夏の教訓」だという指摘は、AIを使う側にとっても重い。速く任せることと、止められることは別の設計なのだ。

中小企業の実務にとっては、AIに仕事を任せる範囲を広げるときほど「止める手段」を先に決めておくことが大切である。自動化した工程に必ず人の確認を一箇所残す。それだけで、AIの暴走や誤作動による被害は大きく減らせる。