Anthropic、蒸留キャンペーンでAlibaba・Moonshot AI・DeepSeekを報告

Anthropic が、Alibaba、Moonshot AI、DeepSeek によるモデル蒸留攻撃を報告した。約 200 万回のやり取りが蒸留攻撃として分類されている。蒸留とは、高性能モデルの「思考過程（chain of thought）」を抽出し、それを教材にして小さなモデルを訓練する手法である。Anthropic は通常、ユーザーに思考過程を見せないよう制御しているが、これらの攻撃は翻訳要求に偽装したり、監視カメラ映像の分析を装ったりして、思考過程の開示をトリガーしていた。Alibaba による Qwen 向けの攻撃が最大規模（5 月～7 月に 3500 アカウントを使い 151 万回）であり、Moonshot AI は中国軍からの要求も含まれていたという。

問題は単なる「セキュリティ侵害」では済まない。これは、AI 開発における知的財産権と競争原理の衝突を象徴している。蒸留技術は違法ではなく、利用規約違反には該当する可能性があるが、法的には「グレーゾーン」である。むしろ本質は、モデルの差別化が急速に陳腐化している現実だ。大企業の最新モデルから新興企業が価値を非対称に抽出できる時代が来ているということだ。競争の加速に伴い、倫理的な歯止めよりも技術的な利益が優先される傾向が強まっている。

企業が API で AI を利用する側である場合、重要な認識がある。データを API 経由で送信する際、その情報が第三者による蒸留攻撃の対象になる可能性があるということだ。特に機密情報や軍事用途に関わるデータを扱う場合、モデルの所在地、運営企業のセキュリティポリシー、利用規約の細部を確認し、リスク許容度を明確にしておくべき段階に入っている。