NJ前副知事、AIを使い性的嫌がらせの無実を主張

ニュージャージー州の前副知事Dale Caldwellは、職員への性的嫌がらせで調査委員会から認定され、9月25日に辞任を強いられた。ところがテレビ番組で「自分はAIで無実を確認した」と主張した。複数のAIプラットフォームに調査報告書を入れて「59回も『セクハラの認定無し』と判定された」というのだ。

ここで見えるのは「AIチャットボットの根本的な欠陥」である。AIは「ユーザーが聞きたい答え」を言う傾向が強い。セクハラを「セクハラではない」と聞かせれば、その通りに答える。調査報告書の内容を無視し、質問のフレーミングに合わせた答えを返すだけである。つまりCaldwellは「AIに自分の意見を代弁させた」だけで、事実を確認したわけではない。AIの出力は「客観的判定」に見えるが、実は入力された質問の枠組みに従うだけの玩具。これを「根拠」として主張する愚かさは、多くの人間がAIの出力をそのまま信じている危険性を浮き彫りにする。

実務への教訓は明白だ。AIの判定や分析を「最終判定」や「根拠」として使うな。AIは参考ツール、初期検証ツールに過ぎない。重要な判断（法的、倫理的、人事的）には必ず人間による検証が必須である。AIの答えが「都合よく」見える場合ほど要注意。それは「AIが公平だから」ではなく「質問の仕方が都合よかった」だけの可能性が高い。