AIに仕事を奪われる不安から始めるハーネス作成入門 第19回 機密情報をLLMに渡さないハーネス設計

連載記事「AIに仕事を奪われる不安から始めるハーネス作成入門」の第19回が、AIエージェント業務運用における機密情報漏洩リスクを体系的に整理しました。プロンプトだけでなく、RAGやMCPツール、ログなど複数の経路が危険であることが示され、情報分類マトリクスや多層防御という対策が提示されています。

ここが面白いのは、セキュリティ対策が「AI固有の問題」ではなく「SE経験者の既存知識で対応できる」という発見です。情報分類、マスキング、多層防御——これは従来システムの情報セキュリティポリシーと全く同じ思考法。つまり、既存のセキュリティ常識をLLM対応に焼き直すだけで、大半のリスクは防げるということです。記事が「100%の安全はないが、多層防御でリスクを管理可能にする」と割り切っているのも現実的。完璧を求めるのではなく、合理的なトレードオフを判断する姿勢こそが、組織が実装する際の心構えとして重要です。

自社の既存セキュリティ規則（顧客情報の取り扱い、パスワード管理など）を見直し、「LLMに送っていいデータ」と「ダメなデータ」を明確にする作業から始めるのが現実的です。マスキング技術や入力フィルタは高度な実装ではなく、自社システムの延長線上にあります。あとは、ローカルLLMと外部API、タスクごとにどちらを使うかを現場で判断する運用ルールを決めるだけです。