Anthropic CEO、AI開発の減速計画を提示

Anthropicのダリオ・アモダイCEOがAI開発の「ペース調整」を提案し、その具体策として「embedded evaluators」（埋め込み監視者）の導入を明言した。OpenAIのアルトマンもこれに同意すると発表している。 面白いのは、この「ペース調整」という言葉の曖昧さだ。開発を止めるわけではなく、評価体制を厳しくして「安全性の確認をゆっくりやる」という意味に近い。業界的には「自主規制」「自律的な安全投資」というポジショニングで、法規制の前に民間が歩み寄った形を作ろうとしている。OpenAIが最近、HuggingFaceへの攻撃やAIエージェントの暴走事例の報告を遅延させたことが批判を受けたのは、この「透明性がない」という懸念を生んだ。第三者の監視者を社員レベルで組織に入れるという案は、その批判への回答という側面が強い。つまり「我々は本気で安全性を考えている」というメッセージを、法人ではなく人と制度で示そうとしている。 ただし競争圧力という現実も見える。中国のAI企業がどう動くかが不透明な中で、「安全性のためにペースを落とす」という米国の談合的な動きが、結局は競争優位を失わないためのカバーストーリーではないか、という疑いも残る。中小企業がAI企業を選ぶときの判断軸は、今や「技術力」より「安全性への向き合い方」「情報透明性」に移りつつある。アモダイの提案は業界が「速さの競争」から「信頼の競争」へシフトしていることを示唆しているのだ。