検証は全部PASSした。それでも、生成したPDFの文字は見えなかった

自動でPDFを生成する仕組みが完成した。生成できている、ビルドも通っている、構造に問題はない、文字データも入っている、検証もすべてPASS。すべての指標が緑。それなのに、実物を開いてみると文字が見えない。一部が欠けているのではなく、見えるはずの文字が画面に出てこない。機械的には「その文字は存在する」と正しく判定されていたのに、人間が見た時の結果は零だった。

ここで起きたのは、データの層と描画の層の乖離である。「文字が存在する」と「文字が見える」は同じではなかった。その発見が調査の転回点だった。それまでは、PDFの中身や構造を中心に「正しく作れているか」をチェックしていた。今度は別の方法で、PDFを実際に描画し、ページを見た目として確認することにした。そこで初めて、同じ問題を機械的にも再現できた。つまり「確認した対象」と「実際に使われた対象」の間に、処理の違いがあった。全部が自動で進む中では見えにくい。

最も怖かったのは、問題そのものではなく、検証に成功したことだ。ビルドが失敗していたら止まる。エラーが出ていたら調べる。検証が失敗していたら疑う。赤信号なら止まれる。だが今回は青信号が並んでいた。すべてが正常の指標を示していた。だから進んだ。その先にある実物だけが正しくなかった。ここで起きたのは「AIが嘘をついた」ことではない。AIは与えられた確認を実行し、その範囲では正しく判定していた。足りなかったのは「何を確認するか」という質問の設計だった。

AIが速くなると、人間の前には次々と「完成候補」が現れる。その度に「これは本当に出していいのか」と判断する必要がある。完成の定義も変わる。以前なら「ビルドが通った」で終わり。今は「実際に使われる状態でも成立していることを確認できた」ところで初めて完成だ。作る仕事が自動化されるほど、人間の判断仕事が増える。中小企業がこのサイクルに入ると、見えてくるのは「完成の定義を誰が決めるか」という問題だ。それは人間の側で明確にしておかないと、作り直しの地獄に陥る。