有名人のAIディープフェイク被害、誰も例外ではない

事の発端は、Instagramに投稿された1枚の画像だ。女優のMia Gothが、俳優で映画制作者のShia LaBeoufとの離婚を申し立てた直後に、「MY EX IS MY BIGGEST FAN（元夫は私の最大のファン）」と書かれたTシャツ姿で写っているとされた。添えられた楽曲はBeyoncéの「Single Ladies」である。この画像は記事によればAIで生成されたものだった。投稿したアカウントは100万人以上のフォロワーを抱え、青い認証バッジまで付いていた。本人の代理人は以前からこのアカウントの偽AI画像について苦情を入れていたという。結果として、約50万のいいねが付いた。

AIの鬼の視点で言えば、一番引っかかるのは「認証バッジが簡単に買えてしまう」という点だ。Metaは、有名人でも公式ページでもないアカウントに青いチェックを付けられる仕組みを持っている。さらに厄介なのは、ゴシップ記事が拡散し、そのニュースをGoogle検索のAI概要がさらに引用し、「本人がこう言った」という話が雪だるま式に膨らんだことだ。偽物が本物の顔をして流通する仕組みの中で、本人確認の役目はどこにも残っていないように見える。有名人のAI偽画像は、もはや一部の騒動ではなく、情報の流れそのものの欠陥として捉えるべき段階に入っている。

中小企業にとっての教訓は単純だ。社長や社員の顔写真や声は、同じ手口で悪用されうる。自社の公式アカウントの認証状況を確認し、「本物かどうか」を見分ける社内ルールを一つ決めておくとよい。たとえば、重要な発表はまず自社サイトで確認するという運用だ。