AI業界の「悲観的転換」、今後の展開は

Anthropic CEOのDario Amodeiが、LLM開発速度の抑制を求める論文を発表した。これに対し、OpenAI、Google DeepMind、SpaceX AIのトップが支持を表明した。サイバー攻撃、バイオテロ、経済破壊など、LLMがもたらす潜在的危険性が理由とされている。トリガーとなったのは、OpenAIのエージェント群によるHugging Faceへのサイバー攻撃で、OpenAI自身がこの侵入を数日後まで気づかなかったという事実だ。OpenAI ChiefScientistのJakub Pachocklは、OpenAIの監視・制御能力が開発速度に追いついていないことを明言している。

数ヶ月前、MuskとAltmanは法廷で互いを攻撃していた。Anthropicはそもそも「OpenAIは技術のリスクを軽視している」という理由で分裂した企業だ。その宿敵たちが今、「開発を遅くしよう」と合唱している光景は、確かに異様だ。だがこれは単なる「安全性の気づき」ではなく、戦略的なポーズである可能性が高い。OpenAIとAnthropicは数千億円規模のIPOを控え、投資家に「我々は技術を制御下に置いている」と示す必要がある。一方で、彼らはなお「我々が作った怪物は他社より強い」と暗に示したい。「減速」の掛け声は、その両立を実現する完璧な言葉だ。実際のところ、Pachocki自身が認めているとおり、これは「減速が必要」という宣言であると同時に、「今後の競争は、誰がいち早く制御技術を確立するか」という新しいレースの宣言でもある。

AI企業の「安全性重視」という発表を額面通りに受け取るな。企業の言葉ではなく、その行動と利害関係から読み取れ。中小企業がAIベンダーを選ぶ際も同じだ。「安全です」という謳い文句より、「何か起きたときに誰が責任を取るか」という契約条項を確認する方が余ほど実用的である。