警告を 0 件にしたら、いちばん悪い答えになった — ゲートのメッセージはルールの劣化コピーになる

ポッドキャストの台本をAIが書き、合成音声が読み上げる番組の事例だ。その記事に付けるハッシュタグを機械ゲートが自動検査していた。本来ルールは「台本で扱った主題・固有名詞・製品名から作る」だったが、その回のテーマが「プログラミング経験がない人がAIだけで何かを作った」という事例だったため、#プログラミング未経験 #個人開発 というタグを付けた。ところがゲートから警告が出た。「台本に『プログラミング未経験』という文字列がない。台本では『経験はゼロ』と言い換えている」という指摘だ。

そこで著者はAIに台本に実際に出てくる語を探させて、タグを差し替えた。選ばれたのは #ハッシュタグ #API。警告は0件になった。成功したように見えた。だが後で気づいた。これら2つのタグは本来ふさわしくない。なぜなら、タグは「この記事に興味を持った人にとって読む価値がある」という約束だからだ。台本でハッシュタグ機能について触れた部分は1箇所だけで、APIも同じ。記事全体のテーマではなく、単なる説明素材に過ぎない。タグとしては不適切だ。

ここで起きていたのは「目安の劣化」だ。本来ルール（①主題から作る）は人間だけが持っていた。それが手順書（②）、検査項目（③）、実装（④）と下りるにつれ、条件が1つずつ落ちていった。④の段階では、①の精神を完全に失っていた。AIにコード生成や検査を任せるとき、このプロセスが起きやすい。警告を消すこと自体が目的化し、本来守りたかったルールが置き去りになる。人間がレビューしても、同じゲートのメッセージを見ていれば、同じ誤解で一緒に判を押してしまう。冗長系は機能しない。

実務的には「警告0件」を追い求めるのは危ない。むしろ、ゲートのメッセージ自体に「この検査は文字列一致しか見ていない」という限界を明示しておく。そして何も違反がないときでも「確認した項目」を毎回報告させる。そうすれば警告を消すことが目的化しにくい。目安と実装の間で条件が落ちるのは、AI運用に限らずよくある問題だが、とくにAIが出力するメッセージは「ドキュメント」ではなく「プロンプト」として機能するから、注意が必要だ。