Anthropic、企業向け「Enterprise Frontier Safeguards」発表 ログは顧客のクラウドに保存し、人手による確認も顧客側で

Anthropicが企業向けの新機能「Enterprise Frontier Safeguards」（EFS）を発表した。不正利用を検知しつつ、ゼロデータ保持（ZDR）と同等のプライバシーを守ることを狙っている。最大の特徴は、活動データを顧客自身のクラウドに保存し、検知されたフラグも顧客へ直接送る点だ。そのため、社外の人間が内容を確認する工程が排除される。今秋の提供開始が予定されている。

AIの鬼の視点で見ると、これは「安全対策とプライバシーは両立しない」という長年の言い分に対する、実に巧妙な回答である。通常、不正利用を見張るには誰かがログを読む必要があり、それが企業にとっては最大の心理的抵抗になる。EFSはその「読む人」を社外から顧客の内側へ移した。言い換えれば、見張り番の鍵を顧客に渡したということだ。これは安全性の後退ではなく、責任の所在を企業側に戻す設計と読める。ただし、顧客が自前で検知結果を運用できる体制を持っているかどうかは別問題で、体力のない会社ほど「フラグが届いたけど誰も見ていない」という事態になりかねない。道具が良くなっても、運用する人の厚みが追いつくかが問われる。

中小企業の実務で言えば、AIサービスを業務に入れる際に「データがどこに残り、誰が見るのか」を一度確認する良い材料になる。顧客情報や取引条件をAIに入力する会社にとって、ログの保存場所と閲覧権限は契約の中身そのものだ。明日の仕事では、使っているAIツールのログ保存先と閲覧者を一覧にしておくことをお勧めする。