Google Geminiのアドバイスで登山者遭難、救出

Google Gemini が登山計画で致命的なアドバイスを出し、3人のハイカーが遭難・救出されたという事件が報道された。カリフォルニアのマウント・シャスタでの出来事で、Gemini は予定時間より大幅に少ない食料と水を持つよう指示。8時間で登頂できるという見通しが実際は日帰り不可の長時間行動になり、暗闇での下山を強いられ、一晩を野営して翌朝救出される騒ぎになった。保安官事務所は「Gemini のアドバイスが不十分だった」と明示的に指摘している。この事件の本質は、AI への信仰の危うさを象徴している。問題は Gemini が単に外したのではなく、ユーザーが「AI が言ったから大丈夫」と判断停止したことだ。登山計画の立案には、天候、季節、自分たちの体力、ルート難易度など、数百の不確定要因がある。Gemini は学習データから統計的な「平均値」を返すだけで、その時その場の固有の危険を評価できない。なのに多くの人は、AI の回答に「根拠」があると勘違いする。実は AI が根拠を示すのではなく、ユーザーが根拠があると想像しているだけだ。企業の業務でも同じ落とし穴がある。「AI が営業見積もりをはじき出した」「AI が在庫予測をした」という理由だけで、人間の判断を省く。本来は AI の出力を入力として、そこから実務的な判断が始まるはずなのに。中小企業が AI を導入する際の最大の陥穽は「AI-in-the-loop」ではなく「AI-as-the-loop」に陥ることだ。AI を判断の一部にするのではなく、AI を判断そのものだと思い込む。Gemini の登山計画が間違っていたのではなく、計画全体を AI に丸投げした判断が間違っていた。その差は、業務システムでも同じように致命的になる。