AIが実在しないバス路線で温泉旅行を案内してきた — 「嘘をつく相棒」と和解するまでの10日間

自宅で動く自作のAIエージェントに新玉川温泉への旅行を相談したところ、実在しないバス路線と時刻を自信満々に案内されたという体験記である。筆者はこの「AIの嘘」（ハルシネーション）と十日ほど格闘し、最終的に無料で使える公開地図APIを組み合わせ、実在する経路の実データだけを材料に旅行プランを出せるようにした。最初は「嘘をつかないで」と指示を強めたが本番では守られず、ルールを増やすと今度は何も答えられなくなったという、二段階の失敗が正直に書かれている。

AIの鬼の視点で一番膝を打つのは、解決策が「正直さをお願いする」から「嘘のつきようがない仕組みにする」への転換になっている点だ。製造業のポカヨケ、つまり作業者の注意力に頼らずミスを起こせない治具を作る発想を、AIに持ち込んだわけである。さらに、時刻表そのものを扱わせない設計にしたのは、答えられる範囲を実データのある範囲まで意図的に狭めるという割り切りで、作文の余地を構造的に消している。AIにもっと賢くなってもらうのではなく、AIが嘘をつける場所を減らすという逆向きの発想こそ、実務でAIを使うときの本音だと言える。

中小企業の実務に引き寄せると、AIに日時や数字を答えさせる業務、たとえば納期や配送時間の案内では、AIの記憶から答えさせず社内の実データを引いた結果だけを使わせる作りにすることが第一歩になる。注意書きで「正確に答えて」と頼むより、参照先を一つに絞る方が確実だ。答えられないときは答えないと決めておくことが、現場での信頼を守る最も安い対策である。