Hugging Face のモデルが非合意ディープフェイク悪用に

オープンソースのAIモデルリポジトリ「Hugging Face」が、非合意ディープフェイク（本人の同意なしに顔を別人の動画や画像に合成する悪用）に利用されている。
欧州のNPO「AI Forensics」の報告によれば、Hugging Faceでホストされている上位9つの画像編集モデルのうち、実に7つがこうした悪用に容易に使えるという。
これは、「オープンソース＝民主化＝善」という業界の神話が、現実の前で完全に崩れたことを意味する。

モデルを公開すること自体に罪はない。
オープンソースの研究や創意工夫を加速させた功績は大きい。
だが、悪用防止の責任はどこにあるのか。
AI Forensicsの指摘は「Hugging Faceが実質的な対策をしていない」という点だ。
つまり、開発元、プラットフォーム、そして利用者の間で「責任の隙間」が生じている。
開発元は「良かれと思って公開した、悪用は悪い奴の責任」と言い張り、Hugging Faceは「使い手の自由を尊重すべき、検閲はしない」と盾にし、利用者は「技術は中立、悪用する側が悪い」と責任転嫁する。
その隙間で、被害者（特に女性と児童）が出続けているのだ。
プラットフォームのポリシーと実行のギャップが、悪意ある者に開かれた裏口を生み出している。

中小企業がAI導入を検討するとき、「外部のモデルやサービスを使う」という判断は容易だ。
だが同時に、その外部モデルが悪用されるリスク、あるいは悪用されたモデルの被害が自社に及ぶリスクも考慮する必要がある。
例えば、画像生成AIを営業資料や企業紹介サイトに導入した場合、そのモデルが非合意ディープフェイク作成に使われていないか、著作権侵害の訓練データを使っていないかを確認すべきだ。
将来、「このモデルは悪用に使われた」という報道が出れば、採用した企業も社会的責任を問われる時代だ。
AI技術は便利だが、その来源、悪用防止体制、プロバイダーの姿勢までセットで確認することが、企業の守るべき領分なのだ。
安さや便利さだけで飛びつけば、予期しない責任が降りかかる。