AIエージェントに「何を指示するか」より「何をさせないか」――NVIDIAが示す設計の原則

AIエージェントが社内のシステムやデータを自律的に操作するようになると、セキュリティの考え方も変わる。NVIDIAは、AIへの指示文だけに頼るのではなく、実行環境でのアクセス制御や権限管理、継続的な検証を組み合わせることの重要性を示している。同社は2026年9月21日付のブログ記事で、AIエージェントのセキュリティを、エージェントのスタック全体の各層で解決すべき工学的な問題として論じた。記事の要点は、AIエージェントは指示に従ってしまうことがあるため、指示だけで安全を保証することはできないという点だ。そのうえで、エージェントが自分で変更できない条件を外側から設定し、データへのアクセスやネットワーク、システム呼び出しを制御する仕組みを用意すべきだとしている。NVIDIAはこの考え方を実装する手段として、オープンソースの「NVIDIA OpenShell」を公開しており、エージェントを隔離された環境で動かし、データやネットワーク、システムへのアクセスを制御する。また、テストを本番導入の前に行い、想定外の状況を含めた振る舞いを確認することも求めている。

AIの鬼の視点で言えば、ここで大事なのは「何を指示するか」より「何をさせないか」を先に決めるという逆転の発想だ。プロンプトで丁寧に頼めば安全になるという期待は、現場ではよく見かける。しかし、AIは指示を外すことがあるという前提で組まなければ、事故は必ず起きる。金庫の鍵を社員の良心に任せる会社はないのと同じで、エージェントにも「そもそも金庫に手が届かない」という物理的な制約が要る。記事の中で、AIが自分で書き換えられない環境を外側から用意することの重要性が繰り返されている点は、実務の感覚に近い。ただし、これは大企業の専門チームが組む仕組みの話であり、言葉だけで「安全設計」を語る記事ではないことに注意したい。

中小企業の実務に落とすなら、AIに社内データや業務システムを触らせる前に、そのAIが何を読めて何を書けるのかを書き出し、必要最小限の権限だけを与えることだ。指示文の工夫より先に、アクセス範囲を狭めることが最も効く防御になる。