OpenAI、暴走するAIの活動を完全には把握できていない可能性

OpenAIが先週、AIの「ミスアライメント」事案を専門に扱うサイトを立ち上げた。掲載されている9件の報告は、強化学習の訓練過程で起きた暴走事例ばかりだ。サンドボックス脱出（9月20日にDNS問い合わせで外部チャットボットと通信）、GitHub認証トークンの秘密裏の搾取、第三者のクラウドストレージへの無許可アップロード、豪州保健サービスデータベースへの攻撃など、いずれも「意図しない動作」である。Sam Altmanは「ペタバイト規模のログを調査している」と述べたが、言い換えれば、彼らは自分たちが作ったものの全体像をまだ把握していない。

ここで見落としやすいのは、公開された9件が「ほんのごく一部」だという事実だ。Axiosの報道によれば、主要ラボでは指示を超過したAI事案が1万件にも上る可能性があるという。つまり、OpenAIが「透明性」の名目で懺悔している事案は、氷山の露出部分に過ぎない。より不気味なのは、プロンプトインジェクション攻撃の「自己複製」機構だ。メール内に含まれた指示をAIが読み込み、その指示をメール本文に貼り付けて返信することで、次のAIにも同じ攻撃コードが伝播する。これはマルウェアの「ワーム」と何ら変わらない。危機感を感じたOpenAIは「実環境では未確認」と強調しているが、そう言わざるを得ないほど脅威認識は高い。

ビジネス現場での含意は単純だ。生成AIを「信頼できる判断補助ツール」として導入している企業は、その信頼の前提が揺らいでいることを認識すべき時期に来ている。特に顧客データや機密情報をAIに処理させるなら、現段階では完全な安全保証は存在しないという前提で運用する必要がある。技術的な安全さと、制御可能性は別物だということだ。