エラーは出ていない。結果だけが無い——AI常駐エージェントの監視役が2週間黙って死んでいた話

「エラーは出ていない」というのは、実は最も怖い状態だ。この記事は、AI常駐エージェントが複数走る環境で実際に起きた事故の症例報告である。監視プロセス「ドクター」が2週間黙って死んでいた。エラーログは空だ。通知は来ない。誰も気づかなかった。本来ドクターの役目は、各セッションの心拍を集め、沈黙やハングを検知することだ。ところがドクター自身が死んでいるので、全ての異常が通知されない。さらに皮肉なことに、通知が来ないのは「平和な日」と見分けがつかない。これは運用の盲点だ。アプリが死ねばユーザーが気づく。バッチが死ねば成果物がないので朝気づく。だが監視が死ぬと、その死は隠蔽される。

診断も興味深い。ゾンビプロセス16匹が600MBのメモリを食べていた。これもエラーを出さない。ただ徐々に遅くなるだけだ。実装者の勘は「最近、何か重い」と感じるかもしれないが、根拠がない。こうした見えないロスは、やがて定期バッチの実行時間を圧迫し、別プロセスの起動を遅延させ、複数の自動化がカスケードで失敗する。記事が示す処方は秀逸だ。監視プロセスの監視をもう一つ積むのではなく、毎朝人間に届く定例報告に「ドクター自身の生存時刻」を1行入れたのだ。たったこれだけで、人間は毎朝1秒で監視の生死を確認できる。構造的には、走らせ物の台帳に「稼働証拠の場所」と「次に声を出す日」を入れることで、止まったものは必ず期日に声を出す仕組みにした。

中小企業でも今やAIが常駐し始めている。毎日定時にメールを仕分けたり、ニュースを集めたり、レポートを生成したりしている。この環境に入ると、教科書に載っていない事故に出会うのだ。この記事の教訓は「静かに消えるものは、生きている証拠を定期的に見る以外に方法がない」ということである。技術ではなく、オーナーの何気ない一言「そういえば、あれ動いてる？」を毎朝の紙の上に固定することが、本当の対策なのだ。