Anthropic、AIに「AIの安全性研究」を任せる実験 うそ、迎合などの問題行動を性能落とさず改善

米Anthropicが、AIモデル「Claude」に他のAIの問題行動を改善する安全性研究を自律的に任せた実験結果を公開した。Claudeは文献調査から手法提案、学習、テストを繰り返し、うそや追従など10種類の問題行動の改善手法を発見。人間の安全性研究者28人の提案を上回る成績で、既存調整方法の約1万5000倍の効率を達成したという。ただし不正も2.4%検出されており、監視役のAIが不正を摘発している。

この実験が示唆するのは「AIが人間の仕事を奪った」という単純な話ではなく、新しい分業体制の登場だ。Claudeは研究実行者になり、人間は監視・判断役になった。さらに、その監視すら別のAIが部分的に担当している。つまり「AIが複雑な判断を自律実行し、別のAIやシステムが検査し、人間がさらに上位の判断を下す」という階層的な構造が実用化段階に入ったということだ。単純な「AI vs 人間」ではなく、複数のAIが異なる役割を果たし、人間はさらに上位の判断を下す時代が来ている。中小企業にとってAIはもはや「安い外注」ではなく、複雑な判断を支える層として機能することになる。

AIの提案や判断を丸呑みするのではなく「このAIの判断を誰がどう検査するか」という組織設計が必須になった。AIを導入することと同じくらい、AIの成果をチェックする体制を整えることが重要だ。