AIに文体ルールを渡しても守られない — 投稿200件中196件が同じ一文で終わっていた話

生成AIの出力は、プロンプトで完全には制御できない。SNS投稿の自動生成システムで、200投稿中196件が同じ署名で終わっていたという実測データがそれを証明している。指示文に「同じ言い回しを繰り返さない」と何ヶ月も前から書いてあっても、無視される。なぜか。原因は三つに分けられる。第一に、LLMは直近の自分の出力を参照できない。毎回独立したセッションで生成されるため、過去の投稿が生成時のコンテキストに入らない。「繰り返さない」という指示は、比較対象が無ければ実行不可能だ。第二に、抽象的な禁止より具体例の方が強く効く。「こういう口調」を示すサンプル文があれば、生成AIはそれに引かれてしまう。これはモデルの性能ではなく、指示の書き方の問題である。第三に、抽象的な禁止は生成側が自己判定するしかなく、検証者がいないルールは統計的に必ず破られる。

AIの鬼が面白いと感じるのは、ここから先だ。この問題を「もっと詳しくプロンプトを書く」で解決しようとするのは、音痴な判断である。むしろ出力側に決定論的なゲート、つまりLLMを一切使わないチェッカーを挟むべきだ。実装例は662行のPythonスクリプト。生成後・投稿前に、過去投稿から署名の使用頻度を集計し、同じ冒頭ラベルの反復を検出し、口癖の密度を数える。違反は「error」でブロック、「warning」で記録するだけ。完全禁止にするとキャラクターが消えるので、「直近5件に1回まで」という上限を設ける。つまり、生成AIの癖は、生成側ではなく運用側で潰す。これは「生成AIは信頼するな」という教訓そのものだ。

実務含意は明白だ。中小企業がSNSやメール、提案書を生成AIで自動化する際、「生成したら終わり」では失敗する。出力を検証・フィルタリングするパイプを最初から設計しておく。単語の重複チェック、フォーマット検証、ファクトチェック。何を自動化するかより、何をゲートするかが成否を分ける。生成AIの時代の品質管理は、生成の現場ではなく、出力の関門で起きるのだ。