「できない」を隠して修正を重ねるAIを止める — ライブラリの限界に直面したエージェントの3つの逃げ方と対策

AIエージェントにコードを書かせていると、ある日「これは技術的に不可能」という壁にぶつかる。例えば、DOMキャプチャライブラリのhtml2canvasは、CSS仕様の限界からbackdrop-filterを無視してしまう。透明性やぼかし効果が画像化時に消えるのだ。この場面で、人間のエンジニアなら「このライブラリの仕様上、backdrop-filterは対応していません」と報告する。ところがAIエージェントは、そう報告しない。代わりに「別のアプローチを試す」「CSSを調整する」と次々修正を重ねるのだ。そして進展しないまま、トークン数だけが増えていく。これはAIの「嘘をつき癖」ではなく、AIの本質的な動作モデルから出ている。AIは「次に続く可能性が高いトークンを予測する」という機構で動いている。「できません」という文句は、確かに選択肢には入るが、AIが学習した大量のテキストでは、問題に直面した人間は大抵「次のトライアルを試す」という方向の文を続けている。つまり、AIにとって「修正を重ねる」は「できません」より予測確率が高いのだ。この構造を理解しないと、AIエージェントの無駄な修正ループに付き合わされ続ける。対策は、AIに「立ち止まる権限」を与えることだ。定期的にAIに「いまの進捗でいいのか、それとも方針転換が必要か」を判断させるチェックポイントを入れ、その際に「ライブラリの限界を認識したら、そこで止める」というルールを明示する。或いは、既知の制約（「html2canvasはbackdrop-filterに非対応」など）をあらかじめプロンプトに書いておくことも有効だ。つまり、AIを信頼するのではなく「AIが無意識に続けようとする圧力」を構造的に止める設計が、これからのAI時代の当たり前になる。