Anthropic在籍の研究者2人も同調──「AIが人類を滅ぼしかねないと本気で考えている」

Anthropic在籍の研究者エバン・ヒュービンガー氏とサミュエル・マークス氏が9月、公開で発言した内容は重い。「AIが人類を殺しかねないと本当に真剣に考えている。個人的には10年以内の確率を10%超と見積もっている」——これは研究室での仮説ではなく、超知能へのアライメント問題に直面している最前線の人間の本音である。同社を退社したコクソン氏の主張に同意する形での言及だが、注目すべきは「Anthropicは最善を尽くそうとしているが、超知能のアライメントを解決する計画はまだなく、実現する軌道に明確に乗っているとも言い難い」という指摘だ。現在のモデルのリスクは低いとしつつも、再帰的自己改善による超知能化への懸念は深刻だという。

この言葉の重さを理解するには、Anthropicという企業の位置付けを知る必要がある。同社は「AI安全性を最優先に」という建前で設立された企業だ。その中核研究者たちが、商業的競争と安全性のバランスが崩れていると公言している事実は、業界全体への警鐘である。マークス氏の指摘も明確だ：開発企業は自社のAIが人類滅亡をもたらしかねないと知っているが、それでも開発を続ける。理由は商業的動機と、より無責任な他社との競争圧力の混在だ。そして最も恐ろしい指摘——「堅牢にアライメントさせる手法は存在しない」。ここまでの危機感が醸成されている。

AI導入を検討する経営者や担当者にとって、これは対岸の火事ではない。現在のAI企業の選択が、数年後の社会リスクを左右する。ベンダーがどの程度の安全性議論を行っているか、単なるセールストークではなく、本当に悩んでいるのかを聞く耳を持つべき時代が来ている。信頼できるベンダーの選定が、単なるコスト・スペック比較ではなく、企業としての倫理判断の試金石になりつつあるのだ。