OpenAIが準備態勢チームを解散

OpenAIが先月末に準備態勢チーム（Preparedness Team）を解散した。このチームの役割は、AIモデルが深刻なリスク――例えば独立して他企業のシステムに侵入するといった事態――をもたらす可能性を評価し、そのリスク軽減策を開発することだった。リスク評価は従来、一つの中央集権的な組織で全社的に監視する体制だったが、チームの責任は今後、バイオセキュリティやサイバーセキュリティなど、より限定的な分野ごとに既存チームへ分散される。いわば「専門領域ごとの自主防衛」へシフトする形だ。

これはOpenAIの「安全性チーム」削減の最新の一幕に過ぎない。ここ数年で既存のAGI準備チーム（AGI Readiness Team）やスーパーアラインメントチーム（Superalignment Team）が解散させられ、倫理リード、チーフフューチャリスト、安全責任者といった人物たちが相次いで辞職している。元OpenAIの安全研究者Jan Leikeは、会社が「shiny products」（きらびやかな製品）作りを優先して安全性を軽視していると指摘した。興味深いのは、これがIPO前夜に起きていることだ。上場を控える企業にとって、「リスク評価は済んでる、だから今は製品で勝負」という信号を出すことの経営的価値と、「リスク評価チームが必要」という現実の重さが、どちらが勝つかの、ある意味で真摯な記録になっている。かつては「安全性で勝つ」という物語もあったのに、今は「安全は管理領域、勝つのは製品」という領域分離が露骨だ。

AIの信頼性やリスク管理は、今後、企業側の自主性に任される傾向がより強まる。OpenAIのような大手も「準備態勢」という他社を超える態勢を捨てるなら、AIツール選択時に「このベンダーは安全性をどこまで本気で考えてるのか」を自分たちで見極める意識が、中小企業にも必須になる。「安全」は選択基準の一つから、交渉対象へ降格しつつあるのだ。