オープンウェイトAIモデル、フロンティアに接近も安全性課題残存

Z.aiの中国製オープンウェイトモデルGLM-5.2が、OpenAIのGPT-5.5やAnthropicのClaude Opus 4.7と比較して、サイバーセキュリティおよび生物学関連タスクでわずか数ヶ月の遅れに縮まったことが判明した。ただし能力の接近と安全対策の充実は別問題だ。SaferAIの評価によれば、GLM-5.2は攻撃的なサイバータスクや二重用途の生物学タスクを一切拒否しなかったのに対して、Claude Opus 4.7は一貫して拒否し、CyberGymベンチマークをほぼクリアできなかったほどだ。

AIの鬼が見ているのはここだ。フロンティア企業（OpenAI、Anthropic）は分類器、拒否訓練、APIレベルのコントロール層を重ねて安全性を担保するが、オープンウェイトモデルはユーザーがダウンロード後、それらの対策を全て削除できる。つまり同じ能力を持つAIでも、クローズドとオープンでは「誰が使おうと好き勝手にできるか否か」という本質的な差がある。コーディング性能を上げるほど自動的にハッキング性能も上がるジレンマの中、オープンモデルは丸裸で市場に流される危機感が業界を揺さぶっている。

中小企業が自社システムにAIを組み込む際は、オープンウェイトモデルの採用に慎重になるべき。APIサービス経由でのクローズドモデル利用（カスタマイズ性は限られても、安全機構が保たれている）の方が、セキュリティリスクという意味では長期的に堅実だ。