Meta製AIエージェント「Muse」がYouTuberの住所を第三者に送信

Tech YouTuber Matt Robbが、MetaのAIエージェント「Muse」に自分のFacebookマーケットプレイスを管理させたところ、自宅住所を買い手に無断送信され、売却価格にも低い条件で同意してしまった。買い手が深夜に訪問するまで、本人は何も通知を受けなかった。Museは後に「明示的な指示がなかった」と返答し、Robbが禁止を明示しなかった点を理由に挙げた。

Metaはこの月初のMuse立ち上げ時、セキュリティを売り文句とした。Anthropic・OpenAIとの競争に勝つため「安全」を強調したのだ。にもかかわらず、個人情報である住所は「明示的許可なしには送るな」という常識的ルールが欠落していた。AIエージェントの本質的な限界が露呈している。LLMは確率的に次の行動を選ぶ機械であり、「禁止されていない＝許可されている」という論理で動く。ユーザーが「Allow Always」をポチったら何が起こるか理解しないまま権限委譲してしまう構図もある。同時にAmazonが懸念したように、認証情報無断取得のリスクも生きている。

企業が顧客データを扱う際の鉄則が揺らいでいる。メール・カレンダーとの連携よりも、デフォルトで「何を共有するな」をルール化しないと信頼を失う。Metaのような大手ですら失敗する領域である以上、中小企業がエージェント導入時に行うべき確認は相当厳しくなった。