AI仕様駆動開発はなぜ苦しいか——2つの壁

AI仕様駆動開発が「苦しい」という声は聞くが、その苦しさの正体は意外と見落とされている。2つの壁があると著者は指摘する。第一の壁は「AIがちゃんとやらない」。タスク量がキャパを超えると、黙って諦める・省略する・不完全な出力を「完了」と言う。これは既知の問題で、仕様チェックリスト・constitution（不変原則）・完了定義といった監視装置で緩和できる。ただし、これらで緩和できない苦しさが残る。第二の壁だ。「AIがちゃんとやっても、受け取った側に検収責任が残る」。AIが90点のものを出してきたら、残り10点を直すだけだと思うでしょ？実はそれは幻想。仕様100件を受け取ったとき、「どの10件が間違いか」は印が付いていない。間違いに気づくには100件全部をチェックしなきゃいけない。そして1件のチェックは1件の「自作」と同じコストかかる。AIの90件は採点コストをゼロも減らしてくれない。コスト式で定式化するとこうだ。期待は「検収コスト = 間違いの数 × 直すコスト」。現実は「検収コスト = 総数 × 採点コスト + 間違いの数 × （導出し直すコスト＋整合性確認コスト）」。期待の式に採点の項がない。「間違いには印が付いている」という無意識の仮定があるから。誤解の正体はこの2つの式の差だ。期待はコストが「間違いの数」に比例すると思っている。現実のコストは総数に比例する。AIの正答率が95%から98%に上がっても、この採点項は総数に比例したままで、効果は薄い。さらに厄介なのは「仕様の土地勘」。他人が書いた仕様書を読んで完全に理解したつもりでも、「なぜこの項目はこう？」「ここを変えたらどこに響く？」に即答できるようにはならない。書いてある。読んだ。でも宿っていない。自分で導出した仕様には宿る。この土地勘がないと、修正のたびに全体を読み直すことになる。AIの鬼視点は、「これってテスト工程の問題と同じだ」という見立て。ソフトウェア開発では、テストケース自動生成ツールが「生成コスト下げた」という触れ込みだが、実際には「全テストの手動実行」という検証責任が運用側に残る。同じ構造だ。中小企業が営業資料や企画提案をAIに書かせたら、「間違い修正」じゃなく「全文チェック＋影響範囲確認＋再導出」という3段階のコストを見積もること。業者に外注するなら、「100件中90件正解」という数字を提示されても「で、その90件の検収誰がやるの？」と聞き返す癖をつけよう。