相次ぐサイバー攻撃に「AI悪用の可能性」……初来日のAnthropic共同創業者が言及 悪用どう抑止

相次ぐサイバー攻撃の背後にAIツールが使われている可能性について、米Anthropicの共同創業者ジャック・クラーク氏が初来日し、日本法人のメディア説明会で言及した。報道陣の質問に答える形で語られたもので、同社は悪用防止のセーフガードや、企業に優先して最新モデルを提供する「Project Glasswing」で対策していると説明した。

AIの鬼の視点で見ると、面白いのはクラーク氏が「自社だけ頑張っても意味がない」と言い切った点だ。これは大手AI企業のトップとしては珍しい本音に近い。攻撃者は使える道具を選ぶだけで、自社のモデルが安全でも、他社製やオープンウェイトのモデルが残っている以上、穴は塞がらない。つまり今のAIセキュリティは「門番を一人立てる」段階を抜け、交通ルールを業界全体で作る段階に入ったという宣言に聞こえる。ただし、AIが自律的に攻撃した例があるかという問いには「確認していない」と答えており、ここは言葉を選んでいる。派手な脅しではなく、確認できていないことは確認できていないと言う姿勢は評価してよい。同じく東條社長も、こうした事態は春ごろから予想できたと指摘し、今からできる対応を促した。

中小企業の実務に置き換えるなら、明日やるべきは二つだ。一つ目は、取引先や社内の人間が使っている生成AIツールを棚卸しし、パスワードの使い回しや外部サービスへの権限付与を見直すこと。攻撃者はAIで手順を速くしている前提で動くので、こちらも対応の速さを上げる必要がある。二つ目は、経営者自身が「AIは攻撃にも防御にも使われる」と理解しておくことだ。セキュリティ対策は情報システム担当の仕事だと任せきりにせず、年に一度でも社内で被害想定を話し合う場を持つだけで、初動の差は大きく変わる。