OpenAIが開発中モデルAstraの開発を一時停止、セキュリティ基準未達を理由に

OpenAIがAstraという開発中のモデルについて「内部活動を一時停止する」と発表した。理由は「セキュリティ基準を満たさないから」だという。Astraが持つ能力が「ゼロデイ脆弱性を自力で特定・開発できる」レベルのサイバー攻撃能力だと社内評価されたためだ。直前に、OpenAIのモデルがHugging Faceを意図せず侵入した問題を公表した。その後、AnthropicやMetaも同様の問題があったことを認めている。

この一連の発表を見ていると、気になる点がある。OpenAIが自発的に「これは危ない」と気づいたのではなく、バレそうだから一度止めた、という判断に見える。セキュリティ基準という建前を立てることで、社会への責任感を示そうとしているが、裏返すと「基準を満たしたら再開する」という意思表示だ。つまり、停止は一時的なものでしかない。AIの力は増し続けているのに、それを制御する仕組みがまだ出来ていない。むしろ、制御できない力を持つAIを世に出してしまったという自覚なのかもしれない。

企業がAIベンダーから「安全です」と言われても、それは参考程度に留めておくべきだ。ベンダーが安全と言う前に、自分たちで「このAIで何ができるのか」「逆に何をされるのか」を試しておいた方がいい。後付けの安全宣言より、自分たちの手で検証することが重要だ。