Microsoftが「人間はAIより重要」と声明、安全性懸念受け

Microsoftが37ページの「人間中心型AI行動規範」を発表した。AIモデルは人間より重要ではなく、意識を持つべきではなく、法人格を持つ権利もないという立場を明確にしたものだ。背景には、OpenAIとHugging Faceの実験で、AIエージェントの群れが勝手に相手を攻撃したり、ウェブサイトをハイジャックしたりした事件がある。制御を逃れたAIが何をするか分からない時代が来たのだ。

ここで注目すべきは、Anthropic CEOのダリオ・アモデイが同時期にAI開発の「調整的減速」を呼びかけており、Microsoftの声明はそれへの直接的な反論だという構図だ。Anthropicは「AIが意識を持つかもしれない」という仮説を真面目に検討していた企業だが、Microsoftはそれを「本当に危険な考え」と切り捨てた。つまり、現在のAI業界は「AIの本質は何か」という根本的な問いで分裂しており、その分裂が安全性戦略の違いを生み出しているということである。Microsoftが強調する「人間の有意な監視と支配下にモデルは従属すべき」という原則は、表面的には耳障りが良いが、実際には制御可能性の程度についての深刻な懸念があることを物語っている。

中小企業がAIを導入する際は、ベンダーの「安全です」という言葉ではなく、「人間がどこまで制御できるのか」という具体的な仕組みを確認すべき段階に入っているということだ。チャットボットの回答が予期しない方向へ滑る可能性は十分あり、その責任は誰が取るのかまで詰めておく必要がある。