AIの安全性測る「物差し」を日本でも――AISI村上所長に聞く展望 相次ぐサイバー攻撃への対応は

日本のAISI（AIセーフティ・インスティテュート）が、AIの安全性を測る独自の「物差し（ベンチマーク）」を作り、評価を公開する方向で動いている。AISIは2024年2月に発足した公的機関で、関係省庁や海外の同種の組織と連携しながら、安全性の基準や評価手法を整えてきた。村上明子所長によると、独自ベンチマークによるAIモデルの評価は2026年度内に完了する予定だ。10月7日に開かれた事業者らによる実証実験の成果共有会で、村上所長はAISIの目的を「信頼できるAIの提供に必要な情報や技術を有し、日本を世界で最もAIを開発・活用できる国にすること」と定義した。役割は、信頼できるAI製品・サービスの普及、AI関連分野の競争力強化、AIの開発・普及に伴う国家の安全を脅かす事象の抑止の3つである。

面白いのは、村上所長が「事例を後から追いかけても間に合わない」と言い切った点だ。AIの安全問題は、事故が起きてから報告書を読む種類の話ではなくなっている。ニュースを追いかける監査役から、先に物差しを持って待ち構える審判へ、役回りを変えようとしているように見える。引っかかるのは、ベンチマークを全部公開すると「悪い人たちにも手の内を伝えることになる」という発言だ。測る基準を公開すれば透明性は上がるが、同時に攻略法も渡すことになる。安全性の評価は、見せることと隠すことの綱引きでもある。さらに所長は、評価の対象をモデル単体ではなく、AIエージェントやフィジカルAIを含む実装段階に広げると述べた。実際に使われる形で測るという考え方は、ベンチマークの点数だけを見て安心してきた業界への地味だが重い注文だ。サイバー攻撃についても、所長は取材時点でAIが関与した証拠は無いとしつつ、「AIによって脆弱性の発見速度が上がっていることは事実」と認めた。防御側もAIを使わなければ、人力でパッチを当て続けることになるという指摘は、正直な本音だと思う。

中小企業にとっての示唆は二つある。一つは、AIを選ぶときに「どの評価をくぐったモデルか」を業者に一言聞いておくことだ。公的な評価の物差しが整えば、業者の説明を比べる材料になる。もう一つは、AIを入れたら終わりではなく、社内の使い方と守り方を見直し続けることだ。攻撃はAIの速度で進むのだから、自社の情報の扱い、アカウントの管理、取引先を装った怪しいメールへの警戒など、人力で追いかけている部分を一度棚卸ししておくと、いざという時に動きが早くなる。