Google Geminiで登山計画を立てたハイカー3人がMount Shastaで遭難・救助。保安官「AIだけに頼るな」

米カリフォルニア州の Mount Shasta で 3 人のハイカーが遭難した。彼らは登山計画を Google Gemini で立てていたが、Gemini から助言された食料・水の量が実際に必要な量より大幅に少なかったとされている。遭難は複合要因だ。当初 8 時間で終わるはずの登頂が午後 7 時ごろまでずれ込み、暗くなってからの下山も重なった。「Gemini が嘘をついた」「AI が原因だ」という単一原因の理解は正確ではなく、判断の過信が要因の一つに過ぎない。

だが、ここに本質的な問題が潜んでいる。生成 AI は「高い確率で正しそうな」答えを返す。しかし登山のような、間違えば命に関わる判断では、確率だけでは不十分なのだ。この 3 人は、自分たちの経験や直感を、AI の出力の上に置いてしまった。人間は往々にして、数字や AI の回答を「権威」と感じ、それを自分の判断より優先させてしまう。生成 AI の時代は、こうした心理的な罠がより頻繁に起きるようになるということだ。

企業のプロセス設計に直結する教訓がある。業務の中で AI を導入する際、単に「この作業を AI に任せよう」ではなく、「この判断は AI の出力だけで良いのか、人間が責任を持つ必要があるのか」を明確に線引きすべきだ。特に安全性や法令遵守に関わる判断では、AI を参考にしつつも、最終判断は人間が責任を持つという構造を設計段階で埋め込むことが重要である。