「生成AIで業務効率を上げたい」、「ChatGPTを実務で使えるようになりたい」 このような方にこのニュースの要約
- プリンストン大など、採用ゲームでChatGPT等を検証
- 偏見スコアは人間0.84に対しAIは最大1.83
- 学習でなく「経験」から新たな偏見が生まれる
米MIT Technology Reviewは7月20日、AIが採用の場面で人間よりも強く偏見を持ちやすいとする研究を報じました。プリンストン大学とシカゴ大学の研究チームが、ChatGPTやClaude、Geminiなど主要な生成AIを検証した結果です。
研究では、AIを架空の市の採用コンサルタントに見立て、医師や弁護士、保育士、清掃員など20の職種に、4つの架空グループの候補者を割り振らせました。候補者の実力は全員同じでしたが、AIは「あるグループが医師で失敗した」といった少ない情報だけで、そのグループを別の職種に固定するなど、早い段階でグループごとに職種を振り分ける傾向を見せたといいます。
偏りの強さを示す指標では、人間の0.84に対しAIは約65％高く、OpenAIのo3は最大値に近い1.83を記録しました。学習データに含まれる偏見だけでなく、AI自身が「経験」から新たな偏見を作り出す点が、今回の新しい発見です。
一方、「多様な採用にボーナスを与える」と伝えると偏見は大きく減り、年齢や学歴など判断に関係する情報を与えた場合も偏りは和らいだとされます。AIが履歴書の選考や面接に使われる場面が増えるなか、AIに判断を任せる業務では、人がどう検証し責任を持つかが重要なテーマになりそうです。