OpenAIがEUでChatGPTのテキスト透かし導入

OpenAIがEU AI Act対応として、ChatGPTとCodexのテキストに見えない透かしを入れる。パターンを単語選択に埋め込む仕組みで、コピペしても消えないという触れ込みだ。規制当局は満足するだろう。ただし、それがいかに脆弱かは、OpenAI自身が認めている。

たった10%の単語を同義語に置き換えるだけで、検出率が92%から66%に落ちる。短いテキストや数学の答え、翻訳文はもっと検出しにくい。つまり、ユーザーが少し手を加えるだけで透かしは実質的に機能しなくなる。AIの鬼がここに目をつけるのは、規制と現実のズレの露呈だ。EUが「AI生成であることを証明せよ」と要求し、企業がそれに応じたとしても、その証明手段はいとも簡単に崩壊する。法律は完璧な検知を前提に作られたが、技術はそれに答えられない。その歪みのなかで、責任だけが曖昧に宙吊りになる。

EU外ではこの透かしを入れないという判断も含め、OpenAIは規制への「最小限の対応」を続けている。グローバル企業の本心は明らかだ。透かしは形式的なコンプライアンスであり、実質的なコントロールではない。だから、EU向けサービスを展開する企業や開発者にとって、この透かしの脆弱性は知っておくべき前提条件になる。完全には機能しない技術に依拠する限り、責任は自分たちで負う覚悟が必要だ。