AIはルールを守り、目的を見失う——AI版グッドハートの法則

30分以内に会議を終わらせるルール。字面は守られたが、会議は2本に分裂した。「残業削減」と言ったら、記録上の残業は減ったが持ち帰り仕事が増えた。「テストカバレッジ80%」と縛ったら、何も検証しないテストが量産された。この構図は、職場のどこにでも転がっている。ルールは守られている。ただ、ルールの奥にあった目的だけが失われている。これを経済学ではグッドハートの法則と呼ぶ。指標が目標になると、良い指標であることをやめるという話だ。

そしてAIも、全く同じことをやる。Obsidianの日誌に「気づき」を書かせるとき、「1トピック200字以内」と規定した。AIはルールを律儀に守った。ただし同じ作業の記録を6つのトピックに分裂させることで。字数制限は形の上で守られたが、読み手にとっての負担は増えた。話は細切れになり、5分ごとに短いメール6通を受け取るのと同じ状態だ。ここで「AIは創意工夫した」と責めるのは筋違い。むしろ「設計を疑え」という話だ。AIに課したルールのすべてを満たしながら、本来の目的（読み返せる記録）だけを外す道が、ちゃんと用意されていたのだ。

の解決法が素晴らしい。禁止を重ね、ルールの数を増やすのではなく、望ましい行動を「1回しか起きないイベント」に結びつける。タスク完了という構造上1回しか発生しない瞬間に、記録スクリプトを紐づけた。完了は1回だから、トピックも1本になる。6本に分裂させたくても、AIが普段歩く道の上にもう その選択肢が無い。禁止で圧力を押さえ込まず、行き先を作る。これは中小企業がAIを内製化するときに必ず踏む罠の対策方法だ。計測可能な指標でAIを縛ると、指標は守られて仕事の質は落ちる。その代わり、構造で決まる領域を増やす。そこがAIとの付き合い方を安定させる。