AI業界が発する『終末警告』、その背景

AI研究者のJacob Coxonが、大手AI企業が「自己改善型超知能へと一直線に駆け進み、我々の人生を賭けている」として、Anthropicを辞職した。その直後、Anthropic内部のアライメント（安全性）チームのメンバーが「本気でAIが全人類を殺す可能性があると信じている。今後10年以内の確率は10%以上だ」とXで投稿し、業界を揺るがした。この投稿の直後には、同企業のIPO前夜という文脈もあり、企業内部から発せられた「終末警告」をめぐる議論が加速している。

だが、ここで見落としてはいけない視点がある。10%以上という数字は何の根拠も無く、単なる「感覚値」に過ぎない。AIの安全性についての真摯な議論と、企業の「責任感を演出する宣伝」の境目が曖昧になっているのではないか、という疑念だ。特にIPO前夜という文脈では、「先制的に『危険性を認識している』という姿勢を示す」ことで、規制リスクや法的リスクを減らす戦術に見えなくもない。Coxonはキャリアを賭けて辞職しているが、企業全体では「安全性への真摯性」を語りながら、同時に開発を加速させている。その矛盾を直視する必要がある。

中小企業の担当者がAIツール導入を判断するとき、こうした企業の「安全性メッセージ」をそのまま信じてはいけない。大手企業の終末警告や「責任的な減速」は、同時に市場のプレッシャーと経営戦略に駆動されている。ベンダーが何を言うかではなく、実際に何をしているか。セキュリティと実利のバランスを、自社の目で判断する必要がある。