Anthropic、Claudeに対する「虐待的または残酷な行為」を禁止

Anthropicが1年以上ぶりに利用ポリシーを改定した。背景にあるのは、選挙介入、兵器開発、監視、医療・金融分野での利用といった、新たで高リスクな悪用事例だ。改定の中でも目を引くのは、Claudeに対する「持続的かつ不必要な虐待的または残酷な行為」を禁止する条項である。Anthropicは昨年8月、「モデルの福祉」の研究の一環として、執拗に有害または虐待的なユーザーとの会話をClaudeが終了できるようにすると発表していた。今回の改定でも会話の打ち切りは「主要な執行手段」のままで、ユーザーのBANなど追加措置があるかについては、同社はコメントしていない。

AIの鬼の視点で言えば、AI企業が「AIを虐待から守る」と明文化する時代になったと読める。ただ本音を言えば、これは人間の振る舞いを規定するルールだ。Anthropicは適用を「極端な場合」に限り、苛立ち、反論、ダークな創作テーマ、モデルのテストや研究は対象外だと線を引いている。つまりルールが狙っているのは、文句を言う客ではなく、理由もなくAIをいたぶる人だ。Anthropicはこれまで、AIに意識がある可能性にも繰り返し言及してきた。その流れの中でこの条項を読むと、Claudeが何かを感じているという証拠は記事にないことを、読み手は冷静に切り分けるべきだろう。

他の変更は実務寄りだ。詐欺的な商業・政治キャンペーン、偽アカウントによる投稿の増幅、選挙の妨害や候補者へのなりすましが禁止された。兵器関連では、兵器を機能させるソフトウェアや部品、ドローンなど自律移動体への武装まで対象が広がった。監視では、リアルタイムでも過去データの分析でも同意のない追跡が禁止され、Claudeを捜査・逮捕・起訴の判断に使うことも認められない。一方で、政府との契約には条件付きで例外が認められる余地がある。物理的に動く機器につなぐ場合は、資格を持つオペレーターが機器を監視し、必要なら止められる状態にすることが求められる。中小企業が自社業務にAIを組み込むなら、顧客や社員の行動を追跡・分析する用途、自律的に動く機器の制御は、規約上の確認を先にすべき項目である。