Instinctの新提案機能、一部ユーザーから不評の声

AI対話サービスInstinctが、人間による厳選した商品・旅行提案を配信する新機能をロールアウトした。人的キュレーションという名目だが、実態はユーザーが求めていない推奨を一方的に送りつけることになり、ユーザーから「それ欲しくない」「スパムでは」という声が上がっている。メール、アップカミングトリップ、その他の行動から個人情報を読み取って「あなたならこれが好きでは」と推す。だが、このロジックは裏返すと「あなたの情報から勝手に推測した商品を売る」という広告そのものだ。

AIの鬼が引っかかるのは、この「親切の暴力」である。「あなたのために厳選しました」と言いながら、ユーザーの明示的な要求の外で商品を推す。AIエージェントが信頼を失う分岐点は、ユーザーが「このシステムは俺のためにあるのか、それとも売上のためにあるのか」と疑い始める瞬間だ。Instinctはその疑いを自分から招いてしまった。マーケットプレイスは提案機能が収益化の手段であることは透明でないと、エージェント全体への信頼が崩壊する。

中小企業がAIエージェント導入を検討するなら、「推奨機能」「提案機能」の有無と設計をよく吟味すべき。ユーザーが本当に求めるのは、自分が望んだときに、その瞬間の課題を解いてくれるAIだ。思いもよらない商品をすすめられるAIは、どれだけ便利でも信頼を失う。