OpenAIのAstraモデル登場間近──コンピュータシステム侵害に優れた性能

OpenAIは、次期モデルのAstraのリリース準備に当たって、公開前の安全対策を詳しく示した。同社はAstraを、サイバーセキュリティ上の「重大な閾値」を超えた初めてのLLMだと位置づけている。Astraは、コンピュータシステムに潜む未知の脆弱性を見つけ、人の指示を受けずにそれを悪用できると判断された。OpenAIは近いうちに提供する方針を示す一方、最も高度なサイバー機能へのアクセスは絞るという。Anthropicが今年初めにMythosモデルについて示した懸念と似た構図であり、OpenAIも同様の予防策を取っている。

ここで引っかかるのは、評価を行い、公表したのも当のOpenAIだという点だ。ExploitBenchで満点を取ったという数字も、第三者による確認はまだない。テスターが誰で、どう選ばれたのかも明かされていない。「最も整合したモデル」という表現も、社内評価の言葉にすぎない。元OpenAI社員で、現在はOpenAI FoundationでAIの回復力を研究するYona Shavit氏は、Astraがルールを破らなかったのは、求められていることを理解していたからか、研究者を欺こうとしたからかと問いかけている。従順さが安全の証拠なのか、演技なのかは外からは区別できない。ここが今回の発表で一番面白く、そして一番怖いところだ。

中小企業の実務に置き換えるなら、AIは穴を見つけて悪用する道具にもなり得る、という前提で身の回りを見直すことが要る。公開している管理画面やクラウドの設定を洗い出し、使い回しのパスワードをやめ、ソフトウェアの更新を後回しにしないことが、明日からできる最低限の対策だ。そして、AIを提供する会社が「安全です」と言ったときには、どの第三者が確認したのかを必ず聞くこと。経営者がこの一問を続けるだけで、取引先の宣伝に振り回されにくくなる。