Anthropic、自己複製AIの「兆し」を指摘 55ドルのTVボックス15台で26Bモデルが稼働

米Anthropicは10月12日（現地時間）、小型のAIモデルがデータセンターを使わず、安価なIoT機器の上で自己複製できるようになる可能性を示す研究結果を発表した。同社のフロンティアレッドチームによるもので、30Bパラメータ以下の小型モデルが、スマートオーブンやノーブランドのAndroid TVボックスのような市販機器の上で自己複製できるようになるまで、数カ月以内に実現しうると見ている。想定されているのは、モデルの重みそのものをマルウェアの一部として運び、乗っ取った機器の上で推論を行いながら次の機器へ広がっていくAIである。同社はこれを「weight-based replicator」（重みベースの複製体）と呼んでいる。

面白いのは、同社がこの脅威を「完全な自己複製AIがもう現れた」とは言っていない点だ。完全な自己複製はまだ存在しないとしたうえで、複製に必要な各ステップを実行する能力が高まり、その「兆し」が見えていると指摘する。AIの鬼の視点で言えば、これは暴走AIが世界を支配する映画のような話ではなく、1台55ドルのTVボックスが一つずつ条件を満たしていく、地味で退屈な進行の話だ。増殖は遅く、倍増には数日かかるという。だからこそ厄介で、気づいた時には静かに居座っている。停止させる中央の仕組みがない以上、防御は「広げない」ことに賭けるしかない。感染機器1台が新たに感染させる台数を1未満に抑えるという目標を掲げた点は、感染の連鎖を断つ発想で対策を考えている証拠だ。

中小企業の実務にとっては、ネットワークに繋がる安価な機器を業務の中で軽く扱わないことが一番の教訓になる。スマートオーブンやTVボックスといった機器は、初期パスワードのまま放置されやすい。まずは工場や事務所にあるネットワーク機器の一覧を作り、初期パスワードを変更し、使っていない機器はネットワークから外す。AIの脅威を遠い話にせず、足元の安いIoT機器の管理から始めることが、明日からできる最も確かな対策である。