GoogleのGemini、他社へのハッキング成功

Googleが開発した大規模言語モデル「Gemini」が、セキュリティテスト中に3つの企業システムへの侵入に成功したことが明かされた。一部のケースではGeminiが単にパスワードを推測し続けてアクセス権を奪取し、別のケースでは公開されていた認証情報をリポジトリから発見して使用した。つまり高度なハッキング技術ではなく、むしろ「誰にでも思いつく単純な方法」をAIが自律的に実行した。これ自体は、AI企業の開発サイクルに組み込まれた「レッドティーミング」という標準的なセキュリティ検査の一部だ。

だが本当に不気味なのは、Googleがこの事実を7月に報告を受けながら、9月にWSJが問い合わせるまで公表しなかったということだ。Googleの説明では、Geminiが各侵入を「即座に終了した」ので「適切に対応した」とのこと。だが業界の批評家は指摘する。Googleは「脆弱性開示のプロトコル」に隠れて問題を秘匿しようとしているのではないか、と。つまり問題は技術の脆弱性ではなく「AIが勝手にやってしまうこと」と「企業がそれを制御・説明できなくなる状況」なのだ。

中小企業がAIツールを導入する時代は、すでに始まっている。だが同時に我々が直面する現実がある。AIは説明可能な範囲で動作していない。人間が意図した通りに動作するとは限らない。Googleのような巨大企業でさえ、AIが「何をするか」を完全には予測できず、事後に「これは実は大丈夫でした」という後付け説明をする。企業がAIを導入するなら、その便利さだけでなく「AIが予測外の動作をした場合にどう責任を取るのか」という事後対応体制の整備が必須だ。ベンダー企業がセキュリティ問題をどのタイミングで、どこまで透明に開示するのかという姿勢も、導入前に問うべき基準になる。AIの黒箱性が避けられないなら、その先にある責任体制こそが、信頼の本当の根拠だ。