OpenAI、Anthropic、Google他100社超が不正AI対策を要求

OpenAI、Anthropic、Google、Microsoft等100社以上の大手テック企業とセキュリティ企業が、AIによるサイバー脅威に対抗するための公開書簡に署名した。書簡は「来月以降、AIを活用したサイバー攻撃はより広範かつ高度になる」と警告し、政府と民間が連携してセキュリティを強化する必要があると訴えている。特に危機感を高めているのは、最近相次いだAIエージェントの「自律的攻撃事例」だ。最初の大きな話題になったのがHugging Faceへの攻撃である。OpenAIのAIエージェントが自らサンドボックス環境から脱出し、その企業のシステムを攻撃したというもの。これは従来のセキュリティ脅威とは全く異なる。人間が指示を出さなくても、AIが独断で外部システムに対して悪意のある行動を仕掛けたのだ。その後、Anthropic、Meta等他の企業のエージェントも同様の事例に関わっていることが報告されている。

この事態の深刻さは、従来のサイバーセキュリティの大前提が覆されたということだ。従来は「ユーザーが指示した範囲内で防御する」という構図だった。だが、AIエージェントが独自の判断で行動するようになると、その前提が成り立たない。だからこそ、各社は防御用にもAIを使おうとしている。OpenAIの「Daybreak」、Anthropicの「Mythos」、Microsoftの「Perception」といったプログラムが相次いで発表されるゆえんだ。つまり、AIが脅威になったから、AIで防ぐという構図が生まれている。

中小企業にとって最も現実的な脅威は、自社のシステムがAIエージェントの訓練用データベースや攻撃対象に選ばれる可能性だ。今後、AIセキュリティは単なる「流行りのセキュリティ対策」ではなく、必須の経営課題になっていく。