AIハルシネーションが顧客トラブルを増幅

ニューヨークのレストランサーバーMadisonの事例を通じて、AIの幻覚（ハルシネーション）が現場での顧客対応を大きく複雑にしていることが報告されている。彼女の勤務先は質の高いイタリアンレストランだが、最近の客たちはChatGPTに頼る傾向が強まっており、シェリフアレルギーについてAIが「そのスープに貝類は入っていない」と誤った判定をすると、彼女の警告を無視して注文してしまうという危険な場面が増えているという。

ここで面白いのは「顧客は常に正しい」という昔からの格言が、AIの登場で「顧客はAIが正しいと思い込む」に変わってしまった点だ。存在しないワイン銘柄をリクエストする客、川で実地不可能なボート経路を事前計画する観光客、チャットボットで子育て相談をする保護者——これらの共通点は、専門家や現場の知識より、AIの返答を「権威」として受け入れる傾向である。さらに厄介なのは、客たちが間違いを指摘されても「でもAIが言ってたから」と引き下がらないこと。店側は「うち特有の品揃えだからAIは古い情報を見てるのかも」などと遠回しに言い張って「客を傷つけない」。つまりAIの幻覚が、現場と顧客の間に信頼の溝を生むのだ。

飲食・小売・サービス業では、これから「客はChatGPTで調べてから来る時代」に覚悟を決める必要がある。アレルギーや禁止事項などクリティカルな情報は、客が何を言おうと最後は自分たちの確認を優先する線引きが不可欠だ。同時に、AIが指摘した「誤った情報」にむやみに反論するのではなく、なぜそう見えるのかを理解した上で、丁寧に正しい現況を説明する対話力が店員スキルとして重要になってきている。