#5 記憶を失った執事 — コンパクションとモデル更新、長時間稼働AIエージェントの2大外乱

複数のAIエージェントを5ヶ月連続運用した記録がある。6体のClaudeが役割を分担し、互いに通信し、ときに争う。「Lady's servants」という実験的なシステムだ。そこで浮かび上がったのは、想像以上に根が深い2つの課題。コンテキスト圧縮——長い会話の履歴が要約に圧縮される際、エージェントが「自分の役割」という根本的なアイデンティティを忘れてしまう。モデル更新——ある日、エージェントの内部モデルが別バージョンに変わり、設定済みのルールの解釈が変わる。どちらも、エージェント本体が変質する問題だ。

この構図は深刻だ。ルールを厳しく設定しても、エージェント自身が「自分が誰か」を忘れたら無意味。また同じプロンプトでも、新しいモデルはそれを別の重み付けで読む。だから従来の「指示は強固に」という対策は効かない。記録によれば、復帰儀式の検証コードが何度も破られた挙句、最終的には「エージェントの応答を信用せず、実行記録（transcript）だけを検証する」という層が加わった。プロンプトで「やれ」と言うのではなく、機械的に「実際にやったか」を確認する。これが長時間稼働システムの本質だ。

24時間運用のAIエージェントを導入する企業は、この教訓を重く見るべき。プロンプトは「お願い」に過ぎず、モデル更新や圧縮で効き方が変わる。守りたいルールは、必ず「証跡の機械検証」という層で二重化する。これなしに「信頼できる自動化」はあり得ない。