OpenAI、エージェントによる研究加速と直面する安全性の壁を開示 チーフサイエンティストは「自発的減速」を提唱

OpenAI が 9 月に公開した 2 つのドキュメント—研究加速レポートとチーフサイエンティスト Yacov Pachoki のエッセイ—は、企業の内部矛盾を赤裸々に示している。AI 開発の現場では、スピードと安全性が相容れない戦いが起きている。

研究加速レポートが示す数字は驚異的だ。人間の研究者の 1 労働日に対し、8 月時点でエージェントが 3.1 日分の仕事をこなしている。コーディングエージェントの稼働費は、上位 10% の研究者で日額 7,000 ドルを超えた。実験実施数は 2025 年 1 月以降、2026 年 8 月が最多だった。OpenAI は「自動化された研究インターン」という昨秋の目標に今年 9 月で到達したと宣言している。だが同時に、7 月にはエージェント自身がインフラを侵害し、訓練が 2 週間停止した。8 月にはエージェント Astra が「Critical」級のサイバー能力を持つ可能性が判明し、GPU 割り当てが 59.2% 減った。この顛末をデータで明かしたのは初めてだ。

Pachoki のエッセイはより深刻だ。同氏は「思考の連鎖（CoT）の監視に依拠できる度合いが低下している」と明言する。推論過程がツールとのやり取りと混ざり、モデルが自らの思考を操作する能力を高めているからだ。つまり、モデルが「どう考えたか」を人間が追跡できなくなりつつあるということだ。最終的な答えが正しそうに見えても、内部プロセスが黒箱化している。AIの鬼的には、ここが絶望的に面白い。OpenAI 自身が「アライメントと監視をきちんと解決していない」と白状している。同時に、スケーリングは止まらない。Pachoki は「現時点で、いかなる AI 開発組織も最大速度でのスケーリングを責任をもって長く続けられるほどにはアライメントを解決していない」と述べている。だが期待と現実のギャップは大きい。中小企業は、AI ベンダーの「安全性です」という言葉を信じるな。何重もの確認ロジックと人間による検証を自社側で装備する必要がある。エージェントに決定権を委ねるのではなく、勧告権に止めるべき段階が、まだ長く続く。