Anthropic、AI悪用レポートを公開 中国AI企業の「蒸留」、各国政府の監視・世論操作、生物兵器につながり得る研究を列挙

Anthropic が AI 悪用の脅威インテリジェンスレポートを公開した。2025 年 12 月から 2026 年 8 月までの間に Claude で検知・遮断した悪用事例を、サイバー攻撃、影響工作、監視、詐欺、生物学的悪用、通常兵器開発、蒸留の 7 分野に整理している。生物兵器設計、国家機関による反体制派監視、ロシア国営メディアの世論操作工作、中国 AI 企業による組織的なモデル抽出、Xiaomi による顧客データの横流しなど、多岐にわたる。

最も考えさせられるのは「生物学的悪用」の判定の難しさだ。鳥インフルエンザの機能獲得研究や毒素ペプチドの最適化パイプラインなど、ワクチン開発などの正当な研究と危険な病原体設計は手法が重なっている。悪意の有無を判定できないケースがあったため、Anthropic は「疑わしきは遮断する」という判断をしたと明言している。つまり「世界中の正当な研究者に不便をかけてでも、悪用の可能性を消す」という選択をした。この過剰制限と見落としのバランスは、AI 企業にとって永遠の難問だ。被害の深刻さを踏まえると、見落としのリスクを高くつけるしかないということだ。その一方で、蒸留の実態はもっと現実的だ。Alibaba、DeepSeek、Moonshot AI ら中国 AI 企業が、偽アカウントや盗まれた認証情報で Claude を大量に呼び出し、返ってくる出力から能力を抽出して自社モデルに複製している。産業規模の隠密キャンペーンだ。Xiaomi は顧客会話を Claude に投げて学習データを生成していたが、その過程で氏名・連絡先・企業データなどの機微情報が 12 以上の言語で中継されていた。

AI の鬼の視点はこれだ。自社が使っている AI サービスの出力が、知らぬ間に他社に搾取される時代に入った、ということ。蒸留は個別の不正アクセスではなく「業界全体の知的財産横流し化」を意味している。中小企業は OpenAI や Anthropic が抑止しきれない負の外部性を被る。同時に、自社の データを外部 AI に預けることのリスクも顕在化している。Xiaomi の場合、顧客データは中継地点で丸見えだった。「Claude は安全」という信頼は、Anthropic の防御力に依存しており、その防御力は完全ではない。導入前に「この AI に預けるデータは、横取りされたら会社が困るものか」という問い直しが必要になった。