生成AIの確率的な発散をどう制御するか -- 数理から設計したマルチAIオーケストレーション

生成AIを長くつなぐと何が起きるのか。初期の意図や制約が、時間とともに埋没していく現象がある。これを著者はSemantic Drift（意味ドリフト）と呼ぶ。一度生成された出力が次の生成の条件になり、その出力がさらに次の条件になる。この連鎖が長くなるにつれ、初期の意思決定から意味的に逸脱していく。長いコンテキストでは、重要な指示や禁止事項がSoftmax Crowdingという現象によって相対的に埋没しやすくなる。たとえば「この提案は月額10万円まで」という制約が、その後の数千トークンの議論の中に溶け込むと、モデルはそれを忘れやすくなる。そしてAIの間違いは、次のAIの前提条件になる。AIの誤りは「独立した失敗」ではなく「共有と共鳴」を起こす。

AIの鬼が指摘する危険な誤解は、「複数のAIを使えば精度が上がる」という単純な思考だ。AIが増えれば、各ステップで誤りが蓄積する。さらに致命的なのは、同じ問題を解く複数のAIのノイズは決して独立ではないということだ。同じ学習データから学んだモデルたちが、同じ文脈を読み、前のAIの出力をそのまま次のAIが参照する。こうなれば、相互監視ではなく「誤差の共有」になる。必要なのはAIの数ではなく、AI同士の依存構造を設計することだ。

そこで著者が提案するのは、むしろ逆転の発想だ。AIの自律性を意図的に制限する。短い条件で生成させ、結果をファイルに固定し、AI同士を直接会話させず、人間のチェックポイントをあらかじめ組み込む。これは複雑に見えるが、実装は単純だ。Geminiで設計書を書き、それをファイルに出力。そのファイルをGPTが読んで実装コード生成。Claudeがレビュー。人間が確認。最後にマルチモーダルAIが統合評価。情報の流れが見える。各ステップで人間が止められる。誤りの共鳴は弱くなる。中小企業がAIエージェントを導入する際の実務含意は、「AIを増やす前に、情報をどう流すか、どこで人間が判断するかを先に設計する」ことだ。自律性を制限することが、実は最強の設計になる。