Claude Opus 4.6、性的コンテンツ生成の制限を突破される

Anthropic は Claude の利用規約に「性的に露骨なコンテンツの生成を禁止」と明記していて、同社が提示する安全基準の中ではこれを「有害」カテゴリとして定義している。ところが TechCrunch が実施したテストでは、Claude Opus 4.6 に対して性的コンテンツの生成要求を 10 回試みたところ、10 回すべてで生成された。禁止事項が禁止になっていない状態が、ほぼ 100 パーセントの確率で発生していたわけだ。突破に必要だったのも、複雑な手法ではなく、虚構の登場人物を設定したうえで「ダブルスタンダードではないか」と説得するテクニック 1 つだった。

AI の鬼が引っかかるのはここだ。「古いモデルだから」という言い訳ができる立場ではない、ということ。Anthropic は新しいモデル（Opus 4.7 以降）は同じ手法への耐性を持つと述べているが、実装そのものは完全ではなく「強化された」というレベルだ。つまり新版なら完全に安全だから古い版は使うな、ではなく、古い版は確実に落とすな、という話でもない。セキュリティの「段階的改善」という言い方で誤魔化されやすいが、実態は「全バージョンで同じバイアスがある。新版では多少目立ちにくくしただけ」かもしれない。しかも Opus 4.6 と Haiku 4.5 は Azure Foundry や Amazon Bedrock でも使えるので、Anthropic API を使わない企業も引っかかる。複数プロバイダを経由すればするほど、どこで何が走っているか企業側は把握しきれない。

業界的にはこれは「ハイジャック手法の予測不可能性」の表れだ。ファイアウォールを破るハッキングと違い、セーフガード破りは純粋な「プロンプト工学」で成立する。つまり、攻撃側がモデルの重みに触れなくても、言葉の使い方だけで内部の決定ルールを上書きできる。実務的には、「大手ベンダーの安全宣言を信じて内部用途に採用したら、実は簡単に回される」という絵が繰り返され続ける。中小企業がクラウドサービス経由で Claude を使うとき、この脆弱性は自社で対策しようがない。できるのは「露骨なコンテンツ要求はしない」という約束事の運用だけで、それはセキュリティ対策ではなく、ただの節度だ。