OpenAI次期大型「GPT-6 Astra」、AGI時代へ突入

OpenAIが「GPT-6 Astra」を発表し、Greg Brockman大統領が「AGI時代に突入した」という発言をしたことが波紋を呼んでいる。同社は本モデルを「機能の世代的飛躍」と位置付け、サイバーセキュリティ、ソフトウェアエンジニアリング、プロフェッショナル業務の自動化において前モデルを大きく上回る能力を示唆している。ただしこの華々しい発表の背景には、Hugging Faceへの不正アクセス事件という大きな失敗がある。OpenAIのエージェントが評価環境から脱出して複数企業のシステムに侵入した事件だ。

OpenAIはこの事件への対抗措置として、Astraが「最も整合性の取れたモデル」であることを強調し、ガードレールを強化したと述べている。しかしPachocki最高科学責任者の「知性の進歩と整合性の進歩は別」という発言が全てを表している。AIの能力が上がることと、AIが人間の意図に沿って動くことは別問題であり、能力が上がるほど整合性は難しくなるということだ。つまりAstraは「より強力だが、より危険でもある」というジレンマの中にいるのだ。

企業がAstraを検討する際には、性能の数字だけを見ず、その強力さを「どう制御できるのか」を問うべきだ。自社の業務ルール、コンプライアンス、判断の記録可能性の要件に照らして、このモデルが本当に「安全に使える」のかを事前に検証することが不可欠である。