Anthropic、METRの評価チームを社内に常駐させ“従業員並み”のアクセス付与 公表に拒否権なし

米Anthropicは10月15日、AIモデルの評価を行う米非営利団体METRのチームに、従業員並みのアクセス権限を与え始めたと発表した。CEOのダリオ・アモデイ氏が9月に掲げた「常駐評価者」の構想を具体化したものだ。METRのスタッフ6人には、同社の端末とオフィススペースを提供し、社内のツールやシステムへの利用を認めた。アクセスの範囲は、同社の社内リスク評価チームとおおむね同じという。顧客データやモデル構造に関する情報などは、対象外として除かれている。

AIの鬼の視点で一番目を引くのは、公表の仕組みである。METRは、同社のリスクや事故について自ら分析を公表できる。会社側は公表を止められない。できるのは、あらかじめ決めた種類の情報を伏せ字にするよう求めることだけだ。さらにMETRは、その伏せ字が妥当だったかどうかまで、自分たちの見解として公にできる。ふつう企業は「外部の監査を受けています」と言えても、監査結果を会社の都合で握りつぶせない仕組みまで作ることは少ない。耳の痛い話を、外部の人間が会社の了解なしに世に出せるようにした点は、広報の発想とは真逆だ。もちろん、アクセス権を与えるかどうかは会社の裁量で決まるという限界も、METRは自ら明記している。だからこの取り組みは「透明性の完成」ではなく、「透明性を試すための最初の一歩」と読むのが正しいだろう。

中小企業にとって、この話の実務的な意味は、AIを導入する会社の説明を鵜呑みにしないという構えに尽きる。AIベンダーの「安全です」という言葉を判断材料にするなら、その会社が外部からの確認をどこまで受け入れているか、公表の範囲を誰が決めているかを一度聞いてみるとよい。答えに詰まる会社は、いざ問題が起きたときも説明が後追いになりやすい。