AIレビューが強すぎて終わらない — Fable 5とGPT-5.6 Solで学んだ「収束判定をモデルに任せるな」

大規模な設計変更を前に、複数の AI に独立したレビューを依頼する手法がある。Fable 5 には 4 時間 42 分、GPT-5.6 Sol には 6 時間以上、レビューを走らせたところ、興味深い現象が起きた。reviewer の性能が低いわけではなく、むしろ逆だ。提案を修正するたびに、別の真っ当な指摘を新たに見つけてくるのだ。最終的に人間が「ここで止める」と判断するまで、修正と新しい指摘のループが続いた。

これは AI レビューの本質的な問題だ。AI は実装を形式的に検査するのは得意だが、実装が今この段階で十分か、というトレードオフ判定は、絶対に人間にしかできない。完璧さを求め続ければ、どんなコードにも直すべき点は見つかる。AI がそれをやり始めると、無限に指摘が続く。これは提案書作成、企画書作成でも起きている。AI からの指摘を聞くことより大事なのは「どこで止めるか」「何を許容するか」を人間が決めることだ。複数の視点から指摘を集めた上で、人間が優先度を判定する枠組みが不可欠になる。

AI ツールを使うときは「指摘をすべて聞く」の罠に気をつけたい。質の高い AI ほど、修正のたびに新しい課題を見つけてくる。対外発表の際は「AI の完璧さ」ではなく「十分さ」と「意思決定」を自分たちで判定して、そこで送り出す勇気が必要だ。