OpenAIがChatGPTとCodexにテキスト透かし機能を追加

OpenAIがChatGPTとCodexのテキスト出力に目に見えない透かしを埋め込むtextGrainを発表した。これはEU向けに展開する。EU AI Actへの規制対応が主な理由で、GoogleのSynthIDなど既存技術と同等以上の性能を謳っている。ただしOpenAI自身、この透かしが「完全な検出を保証しない」と明記している。

ここが業界的には興味深い。透かし技術は、AIが生成したテキストを識別するためのものだが、OpenAIが自分たちの文字で「検出は完璧じゃない」と言い切った。つまり、この技術は「AIが生成したか人間が書いたか」を完全には分別できない。法的責任を問うときに必要な確実な証拠にはならないということだ。規制当局がAI生成物の表示を求める背景には、消費者や企業が被害を受けないようにという想いがある。だが、検出が曖昧では、規制自体の意味が薄れる。それを本人たちが認めている点が、この決定の本質をよく表している。

実務的には、企業がAI出力を使う際に「これにはOpenAIの透かしが入っています」という言い訳はできなくなる。透かしの有無が法的保護にならないなら、自社の責任で「このテキストはAIが生成した」と明示する必要がある。同時にAPI向けのopt-in機能により、エンタープライズ顧客は自分たちの透明性ポリシーに合わせて選べるようになった。つまり、透かしより「自分たちが何をしているか語れるか」が重要になったということだ。