AIエージェント提供各社はプライバシーを約束する。実際に果たせるのか

今年のOpenAI DevDayで、CEOのSam Altmanが新しいAIエージェント「Dots」を発表した。その際Altmanは、フロンティアAIにおけるプライバシーの新たな基準を打ち立てたいと語った。さらに会期中、OpenAIは主要な競合であるMetaの「Muse」について、ユーザーのデータを守れていないと遠回しに批判した。Museは数か月前、前身のOpenClawより安全な代替として打ち出されており、Mark Zuckerbergは「最初からプライバシーとセキュリティを前提に作られた」と語っていた。

面白いのはここだ。プライバシーを前面に出す戦略は、競合の失敗を指させる分、自分の約束も厳しく問われる。Museは、ユーザーのデータを他人から隔離された安全な仮想マシン上に置くと説明していたが、Meta自身はそのデータにまだアクセスできる。公開直後には、攻撃者が乗っ取れる恐れのあるゼロデイ脆弱性が見つかり、修正された。さらにMuseは初期設定でユーザーの入力をモデル学習に使い、利用者がオプトアウトするには別途設定が必要だ。Inc.の記者は頼んでいないのに私的なメッセージを読まれたと不満を述べ、あるYouTuberは住所を見知らぬ人に提供されたという。どちらも製品としては意図どおりに動いていたが、利用者が想定しきれていなかった点が問題だ。AIの鬼として言えば、「プライバシー」はもはや機能ではなく、競争のためのキャッチコピーになっている。読むべきは約束の言葉より、デフォルト設定と、誰がデータに触れられるかの一文だ。OpenAIのGlen Coatesは、Metaが12億人のユーザーを抱えるAI製品を持つのに対し、自社にはそれがないと違いを強調した。その違いは規模の話であって、安全性の証明にはならない。

中小企業の実務では、ベンダーのプライバシー表明よりも、学習利用の初期設定、データの保存場所、管理者が業務データを閲覧できるかの3点を確認するといい。導入前に、学習利用をオフにできる設定があるかを自分の手で一度確かめておくと、後で慌てずに済む。