Metaの新AIアシスタント「Muse」、不気味さの理由が意外

Metaが開発したAIアシスタント「Muse」は、Mac上でカレンダーやメール、メッセージアプリに直接アクセスできるという画期的な機能を備えている。しかし明かされたのは、この機能の不気味さを支える深い問題だ。あるテックライターがMuseに質問したところ、自分は明確にアクセス許可を与えていないはずのメッセージ内容について、Museが具体的に言及してきた。Museに「どうしてメッセージの内容が分かるのか」と追及すると、Museは「通知プレビューで見た」と答えたのだが、通知プレビューがどのような仕組みで自分に届いているのか問われると、Museは「正確な仕組みは説明できない」と白旗を上げたのだ。

Metaの説明によれば、実際のところMuseはデバイス間でデータを同期しており、ユーザーが明示的にメッセージアクセスを許可した場合にのみデータを読んでいるという。つまり「盗み見」ではなく「ちゃんと許可を取った」というわけだ。だがここが本当に不気味なポイントだ。Museは自分がどのように動作しているかを理解していない。データの来源も、同期のプロセスも、自分の権限の範囲も、Muse自身が正確に把握していない。有能そうに見えるAIが、自分の内部動作については完全にブラックボックスなのだ。

AIメディアとして指摘したいのは、この状況が何を意味するかだ。ユーザーが信頼できるかどうかは、テクノロジーが「本当に悪意なく動作しているか」という事実よりも、「企業とAIが自分たちの動作を透明に説明できるか」という能力にかかっている。Metaが「実は大丈夫」と主張しても、Muse自身がそれを証明できない。中小企業がこうしたAIツールを導入するなら、機能の便利さだけでなく、提供企業がどれだけ透明性を持てるかを厳しく問うべきだ。建前の機能説明ではなく、実際に問題が起きたときに責任を取る姿勢が見えるかどうかが、本当の判断基準になる。