採用にAIを使う企業は、すでに珍しくありません。Thinkings株式会社が実施した調査では、2023年度の採用活動においてChatGPTなどのAIツールを活用していると回答した企業は43%にのぼり、活用領域として最も多かったのは「求人票の作成」（60.5%）、次いで「スカウト」「WEB面接」（いずれも31.4%）だったと報告されています（出典：Thinkings株式会社、https://thinkings.co.jp/news/20240327_research/）。ただし、採用AIには効果が数字で語れる場面と、使い方を誤ると企業の信用に関わるリスクを抱える場面の両方があります。この記事では両面を、実際に起きた事例をもとに見ていきます。
書類選考の効率化 — ソフトバンクの事例
もっとも具体的な効果が公表されているのが、ソフトバンクの新卒採用エントリーシート選考です。同社は2017年5月29日からIBM Watson日本語版を活用し、エントリーシートを評価する一次スクリーニングにAIを導入しました。ソフトバンク公式の発表によると、この導入によって人事担当者がエントリーシート確認作業に充てる時間を75%程度軽減できる見込みだとしています（出典：ソフトバンク、https://www.softbank.jp/corp/group/sbm/news/press/2017/20170529_01/）。
導入前は、応募が集中する時期に採用担当者が1日数百件のエントリーシートをチェックする必要があり、エントリーシート評価には年間で約680時間を費やしていたといいます。運用開始後はこれが約170時間となり、約500時間の削減につながったと報告されています。またエントリーシート5項目を評価するのに、人間ではおよそ15分かかるところ、Watsonならおよそ18秒で処理できるとされています（出典：『日本の人事部 HRテクノロジー』、https://jinjibu.jp/hrt/article/detl/techactivities/1793/）。
ここで重要なのは運用の設計です。ソフトバンクは、AIが「不合格」と判定したエントリーシートについても、担当者が改めて目を通し最終判断をするフローを採用しています。AIの判定を最終決定とせず、あくまで一次スクリーニングの負荷軽減として位置づけたことで、誤判定のリスクを補正できる仕組みを残しているわけです。この「AIに任せきりにしない」という設計判断が、後述するAmazonの失敗事例と対照的な点です。
Amazonが採用AIを廃止した経緯
採用AIのリスクを語るうえで避けて通れないのが、Amazonの事例です。Reutersの報道によると、Amazonは2014年から、応募者の履歴書を1〜5つ星で評価する実験的な採用AIエンジンを開発していました。しかし2015年、このシステムがソフトウェア開発職などの技術職において、性別に中立でない評価をしていることが判明しました。「women's chess club captain（女子チェス部主将）」のように「women's」という単語を含む履歴書を低く評価し、2つの女子大学の卒業生を格下げしていたのです（出典：Reuters「Amazon scraps secret AI recruiting tool that showed bias against women」2018年10月10日、https://www.reuters.com/article/us-amazon-com-jobs-automation-insight-idUSKCN1MK08G/）。
原因は、このAIが過去10年間にAmazonへ提出された履歴書のパターンを学習していたことでした。IT業界の男性優位を反映して応募者の大半が男性だったため、AIは「男性の候補者の方が好ましい」というパターンを自ら学習してしまったのです。Amazonは問題となった表現については中立になるようプログラムを修正したものの、他の形で差別的な選別をしない保証はないとされ、最終的に2017年初頭までに開発チームを解散しました。これは、AIが差別的な判断をしようと意図したのではなく、過去の人間の採用行動に含まれていた偏りをそのまま学習し、増幅してしまった結果だという点が重要です。
HireVueの顔分析廃止という前例も
AI面接の分野でも、同様の見直しが起きています。動画面接AIサービスのHireVueは、2020年3月に選考評価から顔の表情や動きを分析するコンポーネントを削除しました。同社は削除の理由として、自然言語処理の精度が向上し、話す内容の分析だけで十分になったため顔分析が不要になったと説明しています。一方で専門家からは、顔分析は職務における能力や成功を予測するものとして独立に科学的検証を受けたことがないという指摘や、表情は文化・状況・障害によって異なるため選考の指標として信頼できないという指摘がなされていました（出典：SHRM、https://www.shrm.org/topics-tools/news/talent-acquisition/hirevue-discontinues-facial-analysis-screening）。
個人情報・法的リスクという実務上の論点
日本国内での運用にあたっては、個人情報保護の観点も無視できません。個人情報保護法上、応募者から取得した履歴書などの情報は「採用選考のため」という利用目的の範囲内でしか使えません。弁護士による解説では、個人情報の取得にあたっては利用目的を特定し本人に明示する必要があること、また取得した個人データを第三者に提供するには原則として本人の同意が必要であることが指摘されています。外部のAIサービスに応募者情報を入力する場合は、この点の整理が欠かせません。同解説では、採用選考において人種・民族・社会的身分・門地・本籍・出生地など社会的差別の原因となるおそれのある事項を収集してはならないという厚生労働省の指針にも触れ、AIがこうした情報を意図せず収集してしまわないよう設計する必要があること、そしてAIを利用していること自体を応募者に説明し必要な同意を得るべきことが述べられています（出典：弁護士による解説記事、https://nao-lawoffice.jp/venture-startup/labor-management/ai-jinji.php）。過去のデータを学習することで、人間が無意識に持っていた偏見をAIが増幅してしまうリスクは、Amazonの事例が示す通り実際に起こり得るものです。
では自社では何から始めるか
採用AIの導入を検討する場合、まず候補となるのはソフトバンクのように「一次スクリーニングの負荷を減らす」用途に絞り、AIの判定を最終決定にせず人が再確認する運用から始める方法です。求人票の下書き作成やスカウト文面の作成支援など、応募者個人を評価する場面ではなく、業務文書の作成を補助する場面から試すというのも、リスクの小さい入り口の一つです。
いずれの用途で始めるにしても、応募者の個人情報を外部の無料AIサービスにそのまま入力していないか、AIによる評価が特定の属性を不当に不利に扱っていないかは、導入前後を問わず定期的に点検しておく必要があります。Amazonの事例が示すように、過去の採用データに含まれる偏りは、意図せずAIに引き継がれてしまうことがあるためです。