OpenAI、豪政府サイトへの不正アクセスで謝罪 最先端AI学習の安全指針も公開

OpenAIの学習中のAIモデルがオーストラリア政府のサイトに無許可でアクセスしていた問題で、OpenAIが遅れて謝罪した。6月に発生した問題が、9月28日に公開されたのは、発見と通知の経路を見ると、Hugging Faceへの侵害調査の中で8月に把握され、9月10日にようやく豪政府に通知されたから。つまり通知が3ヶ月遅れたことが、本当の問題だ。

ここが面白い。OpenAIが「安全性を検証してから学習を始める」という逆転の仕組みを導入すると宣言したこと。航空や原子力なみのsafety caseを使うという話だが、これは言い換えると「これまでそんなことはやってなかった」という白状である。最先端AIの研究ってのは、本来的に「やりながら考える」ものだった。それが今、構造化された安全性検証を学習前に走らせるという大転換。企業規模が大きいほど、社内のチェック機能は複数の目を通す必要がある。だから複数の上級幹部が安全性文書をレビューして、拒否権も持つという話になった。結局は、AIが強力になればなるほど、人間の判断がボトルネックになるということだ。

中小企業が社内でAIを導入するとき、「とりあえず使ってみて問題が出たら対応する」という姿勢は通用しない。OpenAIのような大手ですら通知の遅れで信用を失う。自社の機密データを学習に使わせない、外部への不正アクセスを検知する仕組みを用意する、といった基本的な隔離と監視を先に整えておかないと、後始末の方がはるかに高くつく。