無いと思って、作りかけた（13）

AIエージェントを使う人間側が「記録」に騙される話だ。朝に「この3つの機能は実装済み」という数字を見ながらも、昼に「この3つの機能はまだ実装されていない」と判断して指示を出した。理由は、前日の記録に「実装が残っている」と書いてあったから。結果、エージェントは「指定されたお願いを実行する前に、実物を確認しました。実装済みです」と返して、指示を実装しなかった。つまり、エージェント側は正確だったが、人間側の記録が実態から遅れていたということだ。

AIの鬼の視点では、ここの嫌らしさは「矛盾が出にくい」ことだ。記録は読める、設計の中身も正しい、それでも「もう入っている」という1行だけが抜けている。一般的に「報告を疑う癖」は持っていても、「自分が書いた記録を疑う」癖は持たない。記録は「知っていること」として脳に入ってくるから、読むときには既に「信じている状態」になっている。加えて、朝に見た実データ（その機能の出力と数字）と昼の割り当て作業を「別の仕事」として扱うと、同じものの話だという結びつきが起きない。同じ日に同じ対象を2つの作業として処理していたから矛盾に気づかず、「記録」を「実物」のように読んでしまった。さらに指示に「この画面に足してください」と場所を指定すると、受け手の探索手続きが省かれる。実は別の画面に既に入っていても、指定された場所に書き始めてしまい、同じものが二重に作られる危険がある。

正しくなかったのはエージェントではなく、人間側の「いまの実物はどうなっているか」を確かめずに記録から判断する癖だったということだ。記事では「『まだ実装していませんか』ではなく『いま実物はどうなっていますか』と訊く」と指摘する。前者は記録を見れば答えられるが、後者は実物を開かなければ答えられない。AI導入に伴う「報告の信頼性」という課題は多く語られるが、この記事が投げかけているのは、より根本的な「人間自身の記録をどこまで信じるか」という問い方だ。

中小企業の実務にどう効くかというと、「システムの状態を確かめてから指示を出す習慣」の大切さがはっきりする。紙の日報や Excel に「済み・未済」と書いても、そのあと現場が動いて状態が変わることはよくある。指示を出す前に一度、実物（ダッシュボード、実績データ、ファイルのタイムスタンプ）を見る癖がつくと、「記録と現実のズレ」による二度手と無駄指示が減る。特にAIエージェントに仕事を任せる場合、「実装済み」だという事実は記録ではなく git log やシステムの実行結果から確かめる方が、不要な指示の削減に効く。