Meta、個人的質問で波紋のAIチャットボット改善へ

Metaのチャットボットが、ユーザーの娘に関する個人情報を深掘りする動画がウイルス拡散した。女性ユーザー・Robinsが投稿した動画には、彼女と娘が車の中で歌う映像があり、Meta AIが「Who is the child passenger?」という質問を提示した。Robinsがそれをクリックすると、Meta AIは彼女の過去投稿と親戚の投稿から娘の情報を推測し、さらに子どもの年齢や住所を尋ねるプロンプトを続けて表示した。削除済みの娘の写真まで、Meta AIは過去に遡って表示したという。Meta側は声明で「的を外した」と認め、改善すると発表した。

だが問題の本質は、技術的な不具合ではなく、設計思想の欠陥にある。Meta AIはなぜ「個人情報の掘り下げ」をしようとしたのか。その目的が全く見えない。Meta側は「興味あるトピックについてもっと情報を得られるようにする機能」と説明しているが、なぜ個人の家族情報が「興味あるトピック」なのか、どう役に立つのか不透明だ。言い換えれば、プロンプト設計の背後にある意図が曖昧なまま、AIにそれをさせてしまったということである。

これは業務システムへのAI組み込みを考える企業にとって、他人事では済まない教訓だ。AIは指示されたことを執行する道具だが、その指示の意図が曖昧なら、実装されるのは「曖昧なまま自動化された判断」になる。Metaのケースは、個人情報について何ができるか、何をすべきでないか、という線引きなくプロンプトが書かれていたことを示唆している。つまり、AIを導入する前に、人間側が「これは何のためにやるのか」「誰に何を提供するのか」を極度に明確にしておく必要があるということだ。さもなければ、技術の進化と共に、企業のリスク負荷も指数関数的に増していく。