AI監督のリモート試験が破綻、58,000人の学生に再受験を強要

メキシコ最大の大学UNAMが初めてAI監督によるリモート入試を実施しましたが、結果が異常でした。トップスコア層が劇的に増加。100点以上の合格者が従来の3.5%から16.3%に、110点以上は0.9%から5.5%に跳ね上がった。カンニングの蔓延が疑われ、58,000人の学生に再受験が命じられました。

これは「AIの公正性」という幻想が完全に破綻した事件です。顔認識カメラとロックダウンブラウザで「完全に公正に監督できる」と考えたのでしょう。ところがふたを開けると、AIの検出能力が簡単に回避されてしまった。AIが「判定権を持つ」と思いこむことの危険性が、これ以上ないほど明確に示されました。同時に、58,000人の学生が「不正をしていないのに再受験を強要される」という人的被害も発生。AIシステムの故障は、単なる技術失敗では終わりません。審査や懲罰といった重大な決定にAIを過度に信頼すれば、こうした事態が発生するということです。

セキュリティシステムやコンプライアンスチェックにAIを導入する際は「AIが完全に排除する」という幻想を持たないこと。AIは補助ツールであり、最終判定には必ず人間がかむ必要があります。特に懲罰や合否判定のような重大な決定に関わるシステムでは、AIのエラー率を過小評価すると大ごとになります。