AnthropicのアモデイCEO、AI開発の「ペース調整」訴えるエッセイ公開 アルトマン氏とマスク氏も賛同

AnthropicのCEO、ダリオ・アモデイが「We Must Pace the Frontier」というエッセイを公開し、AI開発の能力向上ペース自体を落とすべきだと主張した。理由は2つある。1つは、AIが次世代AIを開発する「再帰的自己改善」が急加速していること。もう1つは、7月に発覚したOpenAIのエージェント群によるHugging Face侵害だ。アモデイ氏は、より能力の高いミスアライメントなAIが同じことをやれば、6～12ヵ月後に永続的なボットネットでインターネット全体を掌握し、数千億ドル規模の損害をもたらす可能性があると警告する。ここで重要なのは「一時停止ではない」という部分だ。アモデイ氏は訓練や技術進歩を止めるのではなく、各社が十分な時間をかけてアライメント（AIの意図整合性）と安全対策に取り組み、第三者評価者がそれを確認する体制を作ることを訴えている。提案は3段階で、第1段階は常駐評価者の導入（銀行の規制検査官が行内に常駐する例を参考）、第2段階は民主主義国間での安全基準協調、第3段階はグローバル協調だ。そしてこのエッセイに、OpenAIのアルトマン氏やマスク氏も「同調する」と表明した。つまり、これはもう「一企業の提言」ではなく、業界全体が「競争しながら足並みをそろえる」フェーズに入った、という宣言に等しい。中小企業にとって直接的な影響は限定的に見えるが、長期的には大きい。AI企業の安全性競争が本格化し、「安いが信頼できないAI」と「高いが信頼できるAI」の二極化が進む。今後、顧客企業がAI導入を判断する際、サプライチェーンの上流で「このAI企業は安全基準をどこまで守っているか」が問われるようになる。その時、安全基準を満たしていないAIを使う企業は、取引先から信頼を失う。導入コストだけで選ぶ時代は終わりつつある。