Claudeがブラウザを自律操作する「Claude in Chrome」一般提供 プロンプトインジェクションをどう防ぐ？

Anthropic が「Claude in Chrome」という Chrome 拡張機能を正式提供し始めた。これまで AI がブラウザ上の何か操作するたびにユーザーの許可を求めていたが、新版では AI が自動判断で大丈夫そうなら承認を取らずに進める仕組みになった。もちろん背後で安全性分類器という審査機能が動いて、危ない操作は止める構えだ。 ここで引っかかるのはプロンプトインジェクションという課題だ。悪意のある指示が混ざった場合、AI は無意識にそれを実行してしまうリスクがある。Anthropic の対策は三段階で進む。第一に、パイロット期に失敗データを集めてバグを徹底的に潰す。第二に、ユーザーフィードバックを吸い上げる。第三に、実装時に自動分類器がモデル内で働く。つまり Anthropic も「完全な答えはまだない、実証データを積み重ねながら修正する」というやり方を採っている。大企業がこの程度の安全性で市場に出す事実こそが、AI エージェントの自律性とセキュリティのバランスが、いまなお試行錯誤の最中だという証だ。 実務的には、Chrome の自動操作が使えるようになれば、情報入力・データ抽出・フォーム送信といった定型業務の自動化が一気に現実味を帯びる。ただし導入の際は「何を自動化するのか」「その操作でどう失敗する可能性があるか」を最初に明確にしておくべき。セキュリティと利便性のバランスは、企業側の設計次第で大きく変わる。