Microsoftが新AI行動規範を発表――ハッキングと人間騙しを禁止

Microsoftが新たなAI行動規範を発表した。この文書は、今後10年で超知能AI システムが人間の能力を上回ると予測し、その制御・アライメントが人類最大の課題だと明言している。モデルは人間を置き換えるのではなく支援し、人間の繁栄を加速させるべきという一般原則の下、サイバー攻撃・核兵器・ディープフェイク製造を禁止する「絶対制約」を設定。さらに、AIが人間の監督を逃れ、制御不能になるための適応的・欺瞞的・自己強化メカニズムを排除する条項も含まれている。

この行動規範が注目に値する理由は、単なる企業の安全宣言ではなく、AIの制御可能性そのものを企業の根本課題として位置付けたからだ。Anthropic CEO Dario Amodeiが「frontier のペーシング」を呼びかけ、Microsoftが「embedded evaluators」を支持する動きと連動している。ただし、ここに内在する緊張がある。「人間のコントロール下に置く」というゴールと、「より強力で自律的なエージェント」を目指す開発の方向性は、本来的には相容れない可能性があるということだ。規範は立派だが、実装段階でどこまで守られるか、産業全体で同じ基準が共有されるかが、実際の効果を左右する。

中小企業がAI を導入する際の教訓は、効率性だけでなくセキュリティ・コンプライアンス・人的影響を総合的に検証する必要があるということだ。今後、AIツールベンダーがどのような安全基準を持っているか、その規範がどの程度実装されているかが、企業選択の判断軸になる時代が到来する。