AIは、採用時にバイアスを形成する人間よりも大きい

採用選考では、候補者の履歴書をスクリーニングする際、AIが使われるようになった。一見、機械的な判定は人間の恣意的なバイアスを排除できるように見える。しかし最新の研究は、その前提を揺さぶっている。LLMは、訓練データに含まれた人間のバイアスを吸収するだけでなく、その過程でモデル独自の新しいバイアスまで生成してしまう可能性が示唆されている。つまり、AIが「公平だ」という幻想に陥ると、実は意図しない形で、特定の属性の人物を過度に有利にしたり不利にしたりする判断が組み込まれてしまう危険がある。

AIの鬼が見張るべき地点は、ここだ。「AIは人間より公平である」という営業トークが、組織内で信じられていることが問題なのだ。実際には、AIが排除するのは「意識的な恣意性」だけで、「無意識のバイアス」の方は、むしろ正当化されて強化されてしまう。人間なら「ちょっと待て、この判定は変では」と直感的に引っかかることでも、AIが数字で正当化してしまうと、その判定は覆しにくくなる。ここに、AIを人間の判断を「代替する」ツールだと思う罠がある。本来は、AIの判定結果を「監査する」人間が必要なのだ。

中小企業が採用にAIツールを導入する時、気をつけるべきは「AIが正確だから人間の判定が要らない」という転換ではなく、「AIが何を根拠に判定しているかを、人間が検証できる体制」を作ることだ。採用という重要な意思決定で、AIに全権を委ねるのは危険である。むしろ、AIが「スクリーニングの候補を挙げる」段階に留めておき、最終判定は人間が行う。そして、その判定の根拠をAIに遡及させて検証する。このチェック機能があってこそ、AIの力を最大限に引き出しながら、リスクも抑える採用が実現するのだ。