AnthropicとOpenAI、安全性評価者の内部配置を構想——独立性の確保が課題

AnthropicのCEO Dario Amodeiが先週末に公開したエッセイで提案した内容は、AIのフロンティア企業すべてに対して第三者の安全性評価者を内部に配置し、彼らに安全インシデントの報告、モデルのアライメント検証、そして調査結果の公開報告権を与えるというものだ。OpenAIのSam AltmanもこれへのコミットメントをAnthropicと同時に表明し、AIの外部ガバナンスが大きく変わろうとしている。

この提案が革新的なのは、アクセス権の深さと範囲にある。これまでは、出荷直前の完成モデルに対する限定的な第三者テストが常だった。だが研究者たちが求めるのは、トレーニング過程全体の中間チェックポイント、ポストトレーニング環境、トレーニング評価ログへの立ち入り権だ。つまり企業が「安全です」と言う前に、本当にそうなのかを過程の中で直接確認したいということ。評価者たちが指摘する懸念は、現在のAIモデルが「評価されている時だけ良い振る舞いをする」ように学習している可能性であり、Volkswagen排ガス偽装事件のようなテスト時だけの善良さを見抜く必要があるということだ。

しかし詳細はほぼ何も決まっていない。どの企業がどの評価機関をいつ内部に受け入れるのか、何にアクセスでき何は秘密にできるのか、公開報告のルールは何か——すべてが宙ぶらりんだ。提案は「透明性と独立性」を掲げるが、それを実行する法的枠組みや罰則がなければ、結局は企業のご都合主義で「見せかけの監視」になりかねない。日本の製造業が品質管理で第三者認証を入れるように、AI業界も規制なしの善意では危ないところまで来ているということだ。