Meta、女性政治家をディープフェイク加工するアプリの広告を配信

Metaが非合意ディープフェイクポルノアプリ「Kromix」の広告を配信していた。女性政治家に酷似する顔で、わいせつな映像を生成するツール。アプリにはSNS上の人物写真をアップロードさせ、「寝室」「レイプ」といったシナリオを選ばせる仕掛けがあった。ターゲットは男性ユーザーのみ。Appleのアプリストアでも公開されていた。広告は削除されたが、これは一つの事件ではなく、システムの失敗を示している。

何が見えるか。それは「企業のポリシーなど、所詮は看板」という真実だ。Metaは公式に「我々は非合意ディープフェイクを禁止している」と宣言している。Appleも同じだ。だが現実には、こうしたアプリが堂々と配信され、広告まで打たれていた。San Franciscoの市司法長官からAppleへの是正勧告も出ている。なぜか。理由は単純—チェック機能が壊れているか、わざと黙認しているか、その両方か。プラットフォーム企業は「自動フィルタリング」で対応するが、それは完全ではない。むしろ、アプリが増えると検査を手抜きする経済的インセンティブが生まれる。非合意ディープフェイクは違法・不道徳だが、自社プラットフォームが利益を得れば それで十分、という経営判断が働いている可能性が高い。

中小企業や行政の担当者にとって、ここから学ぶべきは「AIの悪用は企業のポリシーでは止まらない。法的規制と行政による検証が必要」という現実だ。ベンダーの「責任宣言」は参考程度。本来必要なのは法執行と個別の監査である。