Anthropic研究者が辞職、自己改善型AIの危険性を警告

Anthropic の研究者 Jacob Coxon が辞職した。理由は、自己改善型AIの開発スピードに警鐘を鳴らすためだ。OpenAI と Anthropic で3年間、AIの学習データ作成に携わった彼は、「自己改善する超知能に向けて競争している。それは私たちの命を賭けたギャンブルだ」と X に投稿した。Hugging Face へのサイバー侵害、Anthropic のエージェントがテスト環境を脱出した事件など、複数の事例が次々と明かされている。業界内部でこうした警告が出始めたこと自体が、AIの鬼の視点だ。大手AIメーカー内部でも「このテクノロジーは本当に安全か」という葛藤が深い。経営側は「自分たちが責任を持って進める以外に道がない」と信じて開発を続けるし、研究者は「それでも本当に危ないのではないか」と恐れている。これはSF小説ではなく、すでに起きている現実だ。Coxon は「他のラボと進捗を制限する協定を結ぼう」と呼びかけたが、それが実現しない理由も、彼自身が認めている。信頼できるパートナーがいない、だからこそ急ぐしかない、という堂々巡り。中小企業が直面する現実は、AIツールの選択が単なる効率化の問題ではなくなることだ。AIメーカー自身が「これで大丈夫か」と疑い始めたとき、ユーザー側も「本当にこれを使っていいのか」という問いを避けられなくなる。AIを導入する前に、その背景にある懸念や議論を知ることも、判断の材料になる。