Алгоритмы искусственного интеллекта при отборе кандидатов могли реже рекомендовать чернокожих и азиатских соискателей на отдельные вакансии. К такому выводу пришли исследователи Стэнфордского университета. Также они зафиксировали эффект систематического отказа одним и тем же кандидатам.
Учёные проанализировали более 4 миллионов заявок за 2018−2022 годы почти на 2 000 вакансий на платформе Pymetrics. Её алгоритмы оценивали кандидатов через игровые тесты, которые проверяли:
- склонность к риску;
- концентрацию внимания;
- щедрость;
- другие личностные характеристики.
После этого система делила соискателей на две категории: «рекомендован» или «не рекомендован».
В целом авторы работы не заметили общего перекоса в данных. Однако при анализе отдельных вакансий ситуация отличалась:
- 15% заявок азиатских соискателей пришлись на позиции, где их рекомендовали реже белых;
- 26% заявок чернокожих кандидатов — на аналогичные позиции.
По расчётам исследователей, при равных показателях с белыми кандидатами алгоритм мог бы дополнительно одобрить около 40 000 заявок.
Отдельно учёные выявили эффект систематического отказа. Среди кандидатов, подавших заявки на 10 вакансий, 4% получили отказ во всех случаях. Это происходило чаще, чем при независимой оценке со стороны разных работодателей.
По мнению авторов, причина может быть в так называемой алгоритмической монокультуре: многие компании используют одинаковые инструменты одного поставщика, из-за чего возможные искажения в алгоритмах могут распространяться одновременно на разных работодателей.