Agent Searchで社内文書RAGを作ったら、根拠のない質問は止まったが理由が想定と違った

Google CloudのAgent Searchで、社内文書のRAG（検索拡張生成）を試した。バックアップ、障害対応、本番変更という3つの架空ルール文書を用意し、4種類の質問を3回ずつ投げた。文書に根拠がある質問には期待した事実が返り、根拠のない質問は3回とも回答がスキップされた。しかしスキップされた理由は、想定と異なっていた。設計者が予想したのは、グラウンディングスコア（回答が根拠にどの程度支えられているかを示す値）が低すぎるというスキップだった。実際は、AIが「文書内に必要な情報がない」と判定してスキップしていたのだ。

ここが実装の現実だ。RAGは「根拠のない回答を作らない」という理想を持つが、その実装は想定より単純で、同時に脆い。設計者が考える「根拠がない」というのは、サスペンスな灰色のグラデーション、確度が低いけれども何かは言える状態だ。しかしAIが実装する「根拠がない」は、より二項的で、検索結果に該当ドキュメントがあるかないかという機械的な判定に近い。つまり、システムが示す「根拠なし」は、統計的な信度が低いわけではなく、単に答え得るデータが見当たらないという意味なのだ。運用する側はそこを見誤りやすい。グラウンディングスコアという連続値があるから、自分たちが導入したシステムは段階的に信度を判定していると思い込む。だが実際には、ドキュメント検索という離散的なステップの連鎖だ。

企業で導入するなら、ここを押さえておこう。社内文書RAGで「根拠がない質問を止める」ことは可能だが、それは曖昧な質問を優雅に保留する仕組みではなく、検索結果が空になったら返答しないという単純なルールに過ぎない。運用が進むと、ユーザーは「システムが正確に判定している」と信じ込み、本来は文書に書くべき内容を「このシステムなら教えてくれる」と期待する。結果、文書の質が下がる。RAGを導入するなら、同時に「システムが知らないことは、文書に書くべき」という逆向きの圧力を、ドキュメンテーションプロセスに組み込まねばならない。