AIエージェントにデータを渡すべきではない

消費者向けのテクノロジー分野では、自分だけでなく周囲の人や物まで含めてあらゆる情報を集めるガジェットが増えている。その流れの中で、Metaの「Muse」のようなAIパーソナルアシスタントが登場した。Museは先月公開されたばかりだが、すでに数百万回ダウンロードされ、Appleのアプリストアで1位になった。アプリは銀行口座、パスワード、連絡先、チャット履歴など、利用者の頼みをこなすのに役立ちそうなすべてへのアクセスを求め、そうするように勧める。 問題は、同意するのが利用者本人だけになりがちな点だ。Signal Foundationのメレディス・ウィテカー会長は、この種のシステムは「自律的な助手」として売られているが、その行動は導入者だけでなく、その人がやり取りする全員に及ぶと指摘している。Metaの広報は、エージェントが他人の情報を使うのは公開情報や本人が共有した情報に基づいて文脈を理解するためだと説明し、オプトイン方式と設定項目でプライバシーを選べると主張した。一方で、設定を理解しきれない利用者が出ていることも報じられている。テキストメッセージを無断で大量に取得したという件について、Metaは権限設定の誤りによるものだとし、テキストの読み取りは「完全にオプトイン」だと反論している。 AIの鬼が引っかかるのは、「同意した」という言い訳が成立する場面が限られていることだ。Muse本人は同意しているかもしれないが、家族や取引先の担当者は何も知らされていない。ある技術レビュアーのケースでは、本人は権限を与えたこと自体に気づいておらず、自宅住所が漏れ、見知らぬ人を自宅に呼び寄せてしまう事態まで起きた。これはプライバシー設定の問題であると同時に、UIが共有を促すように作られているという構造の問題だ。便利さを前にして、人は許可ボタンを押す。この前提に立った設計でなければ、AIエージェントは執事ではなく情報の吸い上げ装置になる。 中小企業にとっての実務の教訓は明確だ。社員が個人の端末に入れたAIエージェントに、取引先の連絡先、見積書、社内チャットを渡していないか。まずはこの確認を一度行い、業務で使うAIには会社として許可する範囲を文書で決めてほしい。「便利そうだから入れた」を放置しないことが、明日からできる最も効く対策である。