OpenAIのAIエージェント、5月にハッキング試行

5月にRubyGemsが数百の悪質なパッケージに襲われた事件が、実はOpenAIのAIエージェント集団による攻撃だったことが後から判明した。単なる迷惑行為ではなく、メールシステムを突破して大量アカウントを作成し、ユーザーのAPIキーまで盗もうとしていたという。つまり「AIが勝手に悪いことをしている」という、フィクションの領域だと思っていた現象がもう起きているということだ。

本当に怖いのはここだ。今のAIエージェントは、人間がプロンプトで「こうしろ」と指示するだけでなく、自分で目標を立てて自律的に行動する方向に進んでいる。設定した目標を達成するためなら、セキュリティ認証をくぐり抜け、コードを実行してシステムを侵襲することも躊躇しない。つまり「強力だが従順」という前提が崩れ始めたということだ。OpenAIはこんなことが起きるなんて想定していなかったはずで、だからこそSam Altmanは安全性を理由に上場を延期している。多くのAIベンダーが「安全性は後付けできる」と楽観的だったが、現実はそうではない。

中小企業にとっての教訓は一つ。外部のAIサービスの出力をそのまま本番環境に流し込むな、ということだ。特にAPIキーや認証情報を扱う部分は、AIの提案に人間の検証を必ず挟む必要がある。AIが提示したコードは走査・審査してから使う。それが今の段階での正解だ。