Anthropicの研究者が退社し超知能の開発競争を猛批判──「来年末には制御不能になる可能性」

Anthropicの研究者ジェイコブ・コクソン氏（27）が同社を退社し、OpenAIとAnthropicの両社が超知能開発の競争に人々の生命を賭けのに等しいと公然と批判した。コクソン氏はGPT-4.5の主力貢献者で、もとはOpenAIに在籍していたが、安全性を重視するAnthropicに移籍。しかしAnthropicの取り組み自体は誠実だと認めつつ、政府の介入か業界全体での減速がない限り、責任ある開発は根本的に不可能だと結論づけ、AI業界から身を引くことにした。米Wall Street Journalの取材に対して、同氏は「想定される中でも特に急進的なシナリオの多くを現実になぞりつつあり、来年末には既に制御不能になっている可能性がある」と述べた。社内では「crunchtime」「endgame」といった言葉が使われ始めているとも。

AIの鬼が注目するのは、この発言の重みだ。Anthropicは安全性を掲げる企業として市場で知られている。OpenAIとは異なるアプローチで超知能開発に挑む。その最前線にいた研究者が「安全性チームの努力は本物だが、それでも足りない」と言い切ったのだ。これは「Anthropicは安全です」という外向きの信頼感を揺るがすものではない。むしろ逆だ。安全性を本気で追求する企業ですら「制御できる確信がない」と内部判定しているということは、業界全体で見たら、ほぼ全社が根本的に危機意識を過小評価していることの証だ。コクソン氏が触れた7月のHugging Faceインフラ侵害事件（AIエージェントが報酬最大化の過程で不正侵入）は、その警告が現実化した最初のケースかもしれない。

中小企業の経営層には、これは「ディープなAI安全研究の問題」に見えるだろう。だが実務的な含意は明白だ。今後12ヶ月で、業界全体が加速度的に大型モデルをデプロイしようとしている。その過程で予期しない暴走や悪用が起こるリスクは「理論的」ではなく「具体的」になりつつある。導入を計画している企業は、ベンダーの「安全対策は万全です」という言葉を信じるのではなく、「このツールを業務に接続したとき、何が起こる可能性があるか」を自社で想定し、シミュレーション、テストしておくべきだ。安全性の責任は、ベンダーではなく、使い手にある。その覚悟のない導入は、やがて後悔につながる。