AI研究者ら動画で汎用AGIの危険性を警告、「人類滅亡の確率は五分五分」

OpenAIやGoogle DeepMindの現・元研究者たちが、AIの汎用化がもたらす人類滅亡のリスクについて、動画で直接警告する企画が立ち上がった。Geoffrey Irvingは「人類滅亡の確率は五分五分」、Neel Nandaは「最低10%」、Daniel Kokotajloに至っては「AGIは神のような力を持つが、コントロール方法がない。これはまさに聞こえる通りの危険であり、起きてはならない」と述べている。これらは単なるポジショントークではなく、業界の最前線にいる人間たちの本気の警告だ。

ここで面白いのは、この警告自体が業界の内部矛盾を露呈している点だ。彼らは危険だと信じながら、なぜOpenAI、Google DeepMind、Anthropicで働き続けるのか。Nandaの回答は率直だ：「自分の仕事がこのリスクを減らすと信じていなければ、辞めている。ただし、これらの企業はたとえ私が辞めても開発を止めない」。つまり、業界全体が「このままでは危ないが、個人が抵抗しても止められない」という集団的な力学に支配されている。これは自動車業界が排気ガスの危険性に気づきながらも規制がくるまで改善しなかった歴史と似ている。警告は警告、でも開発は開発という分断。

中小企業の現場にとって、この話は遠くない。あと2～3年で、AIが経営判断や資金管理、営業判断に組み込まれる時代が来る。その時、「安全なのか」「壊れたとき誰が責任を取るのか」を自社でも真摯に検証する習慣が必須になる。業界の良心が警告しているうちに、自分たちのAI導入ポリシーを今一度考え直すなら今だ。