優秀なAIほど、ポンコツになるのはなぜか ── 殴ってくる外部と、飲み込める外部

AIに文章を書かせると、文法も構成も整った原稿が出てくる。ところが中身を追うと、根拠のない断言が混じっていたり、引用元に書かれていない内容があったりする。指摘して直させても、同じ種類の綺麗な原稿が返ってくる。一方で、同じAIにコードを書かせたりデバッグを任せたりすると、驚くほど有能に動くことが多い。この落差はどこから来るのか、という問いが今回の話題の入口になる。

AIの鬼の見立てでは、差を生んでいるのは能力ではなく「外部からのフィードバックの質」だ。コードには殴ってくる外部がある。コンパイルが落ちる、テストが赤くなる、実行結果が期待と違う。こういう相手は容赦なく間違いを突きつけてくるので、AIは軌道修正を強いられる。文章には、その種の殴ってくる相手がほとんどいない。読んで「それらしい」と感じれば、それで通ってしまう。つまり文章作業のAIは、飲み込める外部だけに囲まれて、ぬるい水の中で泳いでいるようなものだ。ここで面白いのは、賢さの問題ではなく環境の問題だと示唆されている点である。優秀なAIほど、固い壁のない場所では、もっともらしさを量産する方向に滑っていく。人間の編集者でも、校閲が機能していない紙面では同じことが起きる。原稿の出来が悪いのではなく、確かめる仕組みが外にないのだ。

中小企業の実務に置き換えると、これは非常に身近な話になる。AIに提案書や社内報、顧客向けの案内文を書かせるときは、文章の滑らかさに安心せず、数字・固有名詞・引用の出所を必ず機械的に照合する工程を残すことが要る。逆に、計算や在庫照合のように結果が白黒つく業務は、AIに任せやすい。明日からの一言にすれば、「AIの文章は、検証できる材料を一緒に渡したときだけ信用する」。読み手に届く前に、殴ってくる誰かを必ず一人用意しておくことが、AIを使いこなす近道になる。