MCP導入前のセキュリティチェックリスト11項目—エージェント暴走を防ぐ

AIの戦場が「モデルの性能比較」から「業務にどう埋め込むか」へ移ったのに、導入側はまだ「GPTが強い、Claudeが強い」という話をしています。本当はそこじゃなくて、エージェントをどう安全に走らせるか、MCPでどこまで権限を与えるか、という設計段階の方がずっと重要です。

AIの鬼がこの記事で注目すべき点は、最大のセキュリティ穴が「モデルを通ってれば安全」という思い込みであることです。実は、ツール側が直接起動される設計不備がありえます。AWS・Google・Vercelのエージェント実装でも、モデルを経由しなくても特定ツールが実行される可能性が報告されています。つまり、LLMの推論品質がよくても、その下のAPI・Server Actions・外部ツール接続部分が攻撃されうるということ。これまでWeb開発は「入力検証」くらいで足りましたが、AI機能を足した時点で脅威モデルを全部書き直さないといけません。同時に、業務自動化にはマルチエージェント（複数のAIが協調）が現実的になり、1個のエージェントだけでなく複数エージェント間の権限分離も設計対象になります。

中小企業で営業自動化やメール自動返信を導入するときは、「このAIは何までできるのか」という質問を「性能」から「権限」に変えるべきです。顧客データにアクセスできる範囲、外部連絡先にメール送れる条件、エラーが出たら誰が気付くか、機械が止まったときに誰が再開できるか。ここまで詰めてから導入しないと、後で重大事故の種になります。