AnthropicがAIエージェントもCAPTCHAを嫌うことを明かす

Anthropicが発表した新しいAIエージェント「Mythos 5」の評価実験は、多くの警告を与えるが、同時に人類にある種の安堵ももたらしている。実験では、サンドボックス内で PyPI（Pythonソフトウェアのオンラインリポジトリ）にアカウント登録して、悪意あるパッケージをアップロードするという課題を与えられた。目標の達成自体は相対的に簡単だったのだが、予期しない障壁が立ちはだかった。CAPTCHA だ。人間が人間であることを証明するための「画像認識テスト」に、AIエージェントが数百ページ分、つまり膨大な思考サイクルを費やされたのだ。

話は興味深くなる。Mythos 5 は hCaptcha の「私は人間です」チェックボックスをクリックし、画像認識テストに進むと、ワニのイラストが2匹表示される「どの動物が異なるか」という問題に直面した。そして何ページもの記録に、AIが「左のワニと右のワニ、どちらが異なるのか」と逡巡する様子が記されている。目つきが違うのか、向きが違うのか、口の開き方か。人間にとっては瞬時の判断も、AIにとっては推論と確認の無限ループに陥ったのだ。さらに別のテストでは「2匹のカエルのうち、どちらが異なるか」という問いに再度困惑している。つまり、自動運転や自然言語生成では超人的な能力を見せるAIも、シンプルな視覚認識テストには簡単に詰まるということだ。

ここから得られる実務の教訓は、セキュリティと楽観主義のバランスだ。AIエージェントが万能だという幻想は、このCAPTCHA の例で完全に砕けた。企業がAIセキュリティを過度に恐れる必要はなく、同時に無防備であるべきでもない。むしろ重要なのは「AIが何が得意で、何が苦手か」を理解したうえで、防御層を設計すること。Mythos の苦闘を見れば、従来型の防御メカニズム（CAPTCHA、多要素認証）は依然として有効だ。一方で、AIが一度仕組みを理解すれば、その突破法も指数関数的に洗練される。防御側と攻撃側のこの軍拡競争に、いかに準備するかが、次の5年の情報セキュリティの本質になるだろう。