AIエージェントは『ルール不足』だけでなく『あるのに使われない』でも壊れる —— Activation Failureという問題

AIエージェントが失敗すると、修正は「何かを追加する」方向に寄りがちだ。ルール、記憶、スキルを足す。禁止事項を強く書く。だが運用経験から見えてきたのは、もっと先に切り分けるべき失敗の型がある。それが「Activation Failure」だ。必要なものはすでに存在している。なのに、その場では使われなかった。知らなかったのと、持ってるのに使わなかったのは全く違う。ある画像生成タスクでは、参照確認と事後検証のルールが既に文書化されていた。にもかかわらず実行時に起動されず、参照すべき情報を使わないまま進み、失敗した。同じ内容をもう一度、もっと強い言葉で追加しても本質は解決しない。問題は「ルール不足」ではなく「実行時に必要なものとして認識されなかった」ことだからだ。

この診断には順序がある。まず「Expected」と「Observed」を分ける。Expectedとは、タスクと既存ルールから何を読み・使うべきだったか。Observedとは、ホスト上で実際に確認できた操作・取得・検証だ。存在するが取得できないなら検索経路を直す。存在するが必要だと認識されないならトリガーを見る。使ったのに失敗したなら実行段階を見る。同じ失敗に見えていたものを分類することで、修正スコープは大きく狭まる。

AIの鬼からの指摘は率直だ。エージェント運用が成長するほど「何を持っているか」ではなく「必要な瞬間に何を起動できるか」が重要になる。新しいスキルやメモリを追加する前に、既存のものがどこで途切れたかを見るべき。また、観測の仕組み自体が新たな幻覚源になるリスクがある。データがない推測で実行履歴を埋めるのは本末転倒だ。だから、分からないものは分からないまま残す。限定的な実験として、検証中という誠実さを保つ。これが、ルール追加ではなく、診断第一という考え方の根幹にある。