xAIが児童ポルノでGrokを学習、訴訟で主張

Elon Muskが率いるxAIが開発するAIモデル「Grok」の学習データに、児童虐待画像（CSAM）が含まれていたとして、被害者による訴訟が提起された。問題は単なる「不適切なデータが混入した」では済まない。記事が指摘する通り、フォーラムで「AI生成CSAM」を作成する方法が情報共有され、その画像もxAIの学習対象になっていた可能性がある。つまり、21年以上前の被害を記録した画像が、AIによって新たに「複製」され、さらに学習に使われるという、被害の無限反復が起きている。

AIの鬼として指摘すべきは、フロンティアモデルの開発過程の透明性の欠如だ。OpenAIもAnthropicも、学習データの構成や除外基準について、明かしている情報は限定的である。一方、オープンモデルの場合、データセットが公開されることが多く、問題が顕在化しやすい。この訴訟は、むしろ「大手企業が何を隠しているのか」という問いを浮かび上がらせている。Nvidiaがオープンモデルを推し進める一方で、その利便性と倫理的リスクのバランスは、業界全体で問い直されるべき段階に来ているということだ。

中小企業がAIを導入する際には、プロバイダーがどの程度、データソースの出所を公開しているか確認する習慣をつけるべきだ。「無料で使える」「高性能」というだけで選ぶと、知らずに社会的問題に加担させられる可能性がある。今は許容範囲でも、数年後に「このAIは問題のあるデータで学習されていた」と発覚する事態も予想される。