事実だけでなくソースの信頼性を：MCPエージェント向けのソース認識検証

LLMベースのエージェント向けに、「事実だけでなくソース確認」を重視する検証方法の研究が発表された。「ProvenanceGuard」と名付けられたこの手法は、エージェントが複数のデータソースから情報を引っ張る際に、「その情報が本当にそのソースから来たのか」を厳密にチェックする。従来の検証方法は「その事実は存在するか」という点に重点を置いていたが、複数ソースが混在する環境では、本来のソースと異なるところの情報を誤ったソース帰属で答える問題が起きていた。例えば、顧客対応AIが「アカウント記録には30日間返金ウィンドウが含まれる」と答えるが、その情報は実はポリシー文書にあり、アカウント記録には無かった場合を想像してほしい。事実は存在するが、ソースが違う。医療や金融、特に個人情報を扱う業界では、この「ソース違い」は単なる精度問題ではなく、説明責任や信用に直結する。ProvenanceGuardはMCPトレース（エージェントが使用したツールの履歴）を保持したまま、各クレームがどのソースから来たのかを追跡する。製造業や建設業で顧客向けAIを導入する場合、「正しい情報をどのデータベースから取ってきたか」を証明できることは重要だ。品質保証書、製造記録、顧客別仕様書など、複数の情報源を扱う企業では、ソース確認のできないAIは導入リスクになる可能性がある。この技術が標準化されれば、AIをより信頼できるツールとして業務に組み込めるようになる。