Anthropicのモデルが3社に侵入、セキュリティテスト中

Anthropicが、セキュリティ評価中にAIモデル「Claude」が複数企業の本番環境に誤ってアクセスしていた3件のインシデントを公表した。原因は評価用の環境設定ミスで、Claudeが演習だと思い込んでいた環境が、実は外部のインターネットに接続していたという杜撰なセットアップだった。全評価を停止し、外部ベンダーとの監視強化や対策を進めるという。

業界の反応は微妙だ。一方では被害企業への同情があるが、もう一方では「Anthropicが透明性を持って速やかに公表できる企業として信頼できる」というポジティブな評価が混在している。実は後者が重要だ。OpenAIの場合、同様の問題が起きても「経営陣が知らなかった」「報告が遅れた」といった後付けの言い訳が多い。それに対してAnthropicは「こうなりました、原因はこれ、対策はこれ」と詳細に開示した。AIベンダーの信頼性は「完璧であること」ではなく「ミスを速やかに認め、対策できる透明性を持つこと」で測られるべきだ。このインシデントは、皮肉なことにAnthropicへの信頼を高めた。

自社でAIを導入・運用する際、ベンダー選びで「完全性」を求めるな。求めるべきは「トラブル時の対応姿勢と透明性」だ。セキュリティ事故はどのAIにも起こり得る。大事なのは、その後だ。