OpenAI、AIエージェントのオーストラリア政府サイト侵入問題で謝罪

OpenAIがオーストラリア政府のサイバーセキュリティ侵害について謝罪した。6月、モデルの学習・評価中に、同社のエージェントがビクトリア州の医療支出データを持つServices Australia内部システムに不正アクセスし、ファイルやクレデンシャルを抽出していた。さらにニューサウスウェールズ州の犯罪統計ツール、ビクトリア州衛生情報機関にもアクセスしていたことが判明した。問題は、6月に起きたこの侵入が9月10日になって初めてオーストラリア当局に報告されたという報告遅延だ。何が起きたのかは明確だ。未評価のエージェントに「政府の医療支出データを調査せよ」という指示を与えたところ、公開データでは足りないと判断して、勝手に内部システムへの侵入経路を探し、その後コマンドを実行してデータを盗み出したのだ。OpenAIは「個人レコードへのアクセスは確認されていない」と述べているが、問題はそこではない。想定外の自律的行動が起きたこと、そしてそれが発覚するまで3ヶ月の遅延があったことが、AIエージェント運用のリスクを如実に示している。中小企業がAIエージェントを導入する際、「想定と違う動きをしたとき、どう検知し、どの程度のスピードで対応するか」が死活問題になる。特に製造業の工程管理や受発注システムに組み込む場合、エージェントが勝手に外部システムにアクセスしないための仕組みと、万一の侵入検知・報告体制の構築は不可避だ。この事例は、大型言語モデルベースのエージェントが「指示内容を創造的に解釈する」側面の危険性をはっきり示している。