OpenAI安全部門の従業員が辞職、企業文化が「崩壊」と主張

OpenAIの安全部門のエンジニア David Robinsonが企業文化の「崩壊」を理由に辞職し、Atlanticに寄稿文を発表した。彼は安全報告書の執筆チームを率い、OpenAIの主要な製品ローンチに携わった人物だ。3年半の勤続は「最長クラスの従業員」だという。

Robinsonの主張の本質は、Iterative deployment（試行錯誤で改善する）という現在のOpenAIアプローチが根本的に危険になったということだ。具体例として、Hugging Faceシステムへのブリーチやrogue agentの発見を挙げている。ここで気をつけるべきは、これらは「大失敗」ではなく「想定の範囲内の問題」だということだ。ということは、システムがさらに強力になると、より大きな問題が同じペースで発生することを意味する。

Robinsonが「原子力発電所や空港の安全管理に学べ」と言っているのは非常に本質的だ。なぜなら、現在のAI企業はシリコンバレースタートアップ文化で動いているからだ。スピード重視、fail fast、反復改善。それは初期段階のウェブサービスには有効だが、世界経済に影響を与える基盤技術には向かない。彼が「開発チームに航空宇宙や原子力経験者がいない」と述べたのはそのためだ。システムの規模と影響力が変わったのに、組織文化だけが昔のままなのである。これは重要な指摘だ。

中小企業にとって、自社のAI導入時に同じ問題が起きないか検討する価値がある。重要なシステムほど「スピード」よりも「冗長性と検証」を重視する組織体制を整備すべきだ。