AIに自分のプロファイルを読ませたら、Amazon支出の順位は0/5だった

あるAIユーザーが、自分の思考スタイルや興味をまとめた「プロファイル文書」を別のAIセッションに読ませて、実際の購買行動（2024〜2026年のAmazon 475件・約123万円）を予測させる実験を行った。結果は衝撃的だった。予測が当てた上位5カテゴリは的中率が50～60%と悪くないのに、「どれが一番大きいか」という順位一致は0%だったのだ。 詳しく調べると、AIの誤り方に方向性があった。プロファイルに「仕組み化が好き」「仕事まわりへの投資意欲が高い」と厚く書かれていたため、デスク・書斎への支出を実額の7倍に見積もった。一方、プロファイルに食事や健康の記述がほとんどないため、実際には支出の大半を占める食費が極端に過小評価されていた。つまり、AIが「書かれた情報の量」を「重要度」の代理指標として読んでしまったのだ。プロファイルとは筆者の思考スタイルを記述したものなのに、AIは「何が厚く書かれているか」から「何にお金を使っているか」を推測してしまったのである。 行動ログ（音楽再生記録・書籍購買記録）を加えると、金額配分の誤差は22%改善した。事実を足せば精度が上がるというのは正しい。だが同時に、新しい誤読も生まれた。12年前の古い購買・聴取記録から、ある人物属性を推論され、現在のことのように支出に反映された。誤差が「減ったこと」と「誤りが減ったこと」は、必ずしもイコールではなかったのである。 中小企業がAIに「自社のポリシー文書」「経営者の方針」といったプロファイルを読ませて判断させるなら、この実験の教訓は決定的だ。AIは「書かれた量」で重要度を判定し、「書かれていないこと」を過小評価する。さらに、データの時間軸が曖昧だと、古い事実が現在の判断に紛れ込む。プロファイルを与える側は、「何を書くか」と同じくらい「何を明確に書かないか」「いつの話か」という精度を意識する必要がある。そしてAIが出した判断の根拠を、常に事実と突き合わせる習慣がなければ、改善は生まれない。