Anthropic、Claudeへの“虐待”を利用ポリシーで禁止 影響工作の規定も集約

米Anthropicは10月8日（現地時間）、AIモデル「Claude」の利用ポリシー（Usage Policy）の改定版を公開した。発効は11月12日である。同社は毎年ポリシーを更新しており、今回の変更の大半は既存ルールの明確化が目的とされる。この1年でClaudeがより長く自律的に作業するようになったことを受けて、新しい機能への適用例も加えた。

目玉は「AIへの継続的な虐待を禁止する」という新規の規定である。ただし対象は、明確な目的もなく繰り返しモデルに残酷な振る舞いをする極端なケースに限られ、不満の表明や反論、ダークな創作テーマ、テストや研究は除かれる。AIに感情があるかどうかはさておき、この規定は「人間がAIに何をしてもいいか」への企業としての線引きだ。すでにClaude.aiとClaude Codeでは、虐待を続けるユーザーとの会話をClaude自身が終了できる仕組みがあり、規定はそれに沿ったものになる。AIの鬼として言えば、文言より「会話を切る権限をAI側が持っている」という事実のほうが、今後の設計思想を物語っている。

もう一つの重要な変更は、影響工作の規定を「Do Not Engage in Deceptive Campaigns or Artificial Activity」という1つの項目に集約したことだ。国営メディアや政府機関、民間企業がClaudeを使い、偽アカウントの網や捏造したニュースサイトを運営する事例が確認されたため、政治目的か商業目的かを問わず縛る。兵器への武装搭載、本人の同意のない追跡、捜査対象の決定支援なども明文化された。

中小企業にとって最も実務的なのは「高リスク用途」の条件である。法務、医療、金融、雇用など11分野では、AIの提案を確認・修正できる有資格者を介在させ、影響を受ける本人にAIを使っていることを伝えることが求められる。採用の一次選考や与信の判断、顧客からの問い合わせ対応にAIを組み込むなら、「最後に人が見る」「使っていると知らせる」の2点を業務フローに入れておくことが、ポリシー違反を防ぐ以前に、取引先や応募者の信頼を守る最低ラインになる。