Anthropic共同創業者「サイバー攻撃、オープンモデル悪用の可能性」

米Anthropicの共同創業者ジャック・クラーク氏が、相次ぐ日本企業へのサイバー攻撃にAIが使われている可能性があると示唆した。10月14日、同社の日本法人Anthropic Japan設立1周年のメディア向け説明会で語られた。クラーク氏によれば、攻撃を仕掛けるハッカー集団は一般に公開されたオープンウェイトモデルなどを悪用している可能性がある。ただし詳細は不明で、AI自身が人間の手を離れて自律的に攻撃している事例は知る限りないという。

ここで面白いのは、クラーク氏が「AIが使われているかもしれない」と慎重に言葉を選んでいる点だ。企業トップが自社製品の悪用可能性に触れるのは、普通は歓迎されない話題である。それでも語ったのは、オープンウェイトモデルの問題を隠しても意味がないと踏んだからだろう。公開された重みは誰でも手元で動かせる。つまり「悪い使い方をする人」が、規制や監視の外で強力な道具を手にしている状態だ。防御側が「うちのAIは大丈夫」と胸を張るだけでは、この現実には追いつけない。業界全体で守る発想に切り替えるしかない、という本音が透けて見える。Anthropicは対策として、悪用を制限する「セーフガード」と、サイバーセキュリティのプロジェクト「Project Glasswing」を紹介した。他組織と連携しながら防御に取り組むことの重要性を説いている。

中小企業の実務にとっては、次の一点に尽きる。サイバー攻撃の手口はAIによって安く・速くなりつつある。だから大企業だけでなく、取引先や社内の小さな穴も狙われる前提で考えたほうがいい。具体的には、パスワードの使い回しをやめ、管理者アカウントを一人に集中させず、不審な請求書や問い合わせは必ず別経路で確認する。AIの話題を遠い世界の出来事と思わず、まずは自社の基本的な守りを見直すことが、明日からできる最も効く対策である。