AI アシスタント Instinct、プライバシー・セキュリティ懸念が浮上

AI パーソナルアシスタント「Instinct」が話題だ。Noah Shinn が率いるチーム（Spear Street Technology運営）による開発で、メール・カレンダー・メッセージング・デバイスのオーディオ・位置情報・スクリーン等に接続し、ユーザーの代わりにタスクを実行する。予約やチケット手配から買い物・メール整理まで。初期テスターからは「魔法のようだ」と称賛の声が上がるが、プライバシー・セキュリティ懸念も深刻だ。問題は多岐にわたる。利用規約が「永続かつ取り消し不可」なライセンスを付与し、スクリーンキャプチャ・キーボード入力・カーソル情報へのアクセスを明示。さらにユーザーに代わって契約・取引を結ぶ権限まで含む。実例では、ユーザーが削除したメール記録が平文のまま保存され続けていた。フィッシング攻撃への脆弱性も指摘されている。便利さと恐怖は表裏一体である。このシステムが「すごい」と感じるのは、あなたのことをよく知っているからだ。パスワード・メール・位置情報・カレンダー、すべてを握られる。最も怖いのは、この代価をユーザーが理解しないまま使い始めることだ。会社の経理や人事にこうした AI アシスタントを導入する際、「この AI が会社の契約を結いでいいのか」「決定ログが監査対象にできるのか」を確認してからにしたい。便利さだけで動いてはいけない。