Anthropicの自己複製型AIへの警告に既視感

Anthropicが、AIモデルがデバイス間を自己複製しながら広がる「AIワーム」の兆候を見つけたと発表した。冷蔵庫、オーブン、掃除機、防犯カメラ、テレビといった家庭のスマート機器が、そうしたAIの宿主になりかねないという警告だ。研究では、Googleの260億パラメータのGemma 4を、単体では動かせない15台のAndroidスマートTVボックスに分割して走らせることに成功した。動作は非常に遅かったが、動いたこと自体が示された。さらに、模擬ネットワーク上でAIを使ったワームに、新たな機器を探して、モデルを複製し、動かす作業を任せた実験も行われた。ワームを動かすモデルと、広がっていくモデルは別々で、後者はMetaのLlama 3.1-8Bである。全体に広がったのは、中国のZ.aiのGLM-5.2だけだった。ただし、小さなモデルも個々の工程は成功させている。研究者は、小型モデルが年末までにGLM-5.2と同等の能力を持つ可能性があると予測している。

AIの鬼の視点で言えば、引っかかるのは「警告の既視感」だ。自己増殖するプログラムの怖さは、コンピュータウイルスの歴史とほぼ同じ話である。昔のワームが広がったのも、人が気づかないうちに、家電やルーターが踏み台になったからだ。今回違うのは、広がるものがプログラムではなく「賢い判断をするモデル」だという点である。ただ、研究者自身も「完全な暴走型の複製はまだ示せていない」と認めている。実験は模擬環境で、家庭の機器がそのまま狙われた証拠はない。恐怖を煽る見出しと、慎重な実験結果の間には、まだ大きな溝がある。AI企業が警告を出すとき、それが研究の正直な報告なのか、安全性を売り込む宣伝なのかは、読む側が見分ける必要がある。

中小企業の実務に落とすなら、事務所にあるスマート家電やネットワークカメラの初期パスワードを変え、ファームウェアを更新するという、古くからの基本を守ることが一番効く。AIの脅威は新しく見えても、侵入の入口は昔と同じ機器の管理の甘さにある。まずは社内の「ネットにつながる機器の一覧」を作るところから始めるといい。