Что изучили

Авторы (Stanford и соавторы) собрали крупный датасет: все заявки проходили скрининг алгоритмами одного поставщика. Гипотеза — алгоритмический монокульт: одинаковая логика отбора у разных компаний усиливает общие ошибки и смещения.

Методы сочетают статистику исходов с анализом по стандартам дискриминации при найме в США, а также используют детерминированную воспроизводимость моделей: симулируют, что было бы, если бы кандидат подал заявку на все позиции.

Главные выводы

• Расовые диспропорции: среди заявок азиатских соискателей 14,74% попали на вакансии, где алгоритм, по критериям adverse impact, вредит этой группе; среди чёрных соискателей — 25,87%.
• Однородные отказы: 4% кандидатов, подавших на 10 вакансий, получили рекомендацию «отказ» везде — чаще, чем ожидалось бы случайно.
• Широкий охват заявок: чтобы с высокой вероятностью дойти до живого рекрутёра, соискателю нужно подаваться на много разных позиций — «одна удачная вакансия» перестаёт быть реалистичной стратегией.

Что это значит для разработчиков

Если вы внедряете скрининг резюме, ранжирование кандидатов или copilot для HR:

1. Не полагайтесь на «мы купили лидера рынка» — монокульт вендора = общий риск для всей отрасли.
2. Закладывайте аудит adverse impact по демографическим срезам и логирование решений (почему отказ/пропуск).
3. Проектируйте fallback: при низкой уверенности — эскалация человеку, а не автоматический отказ.
4. Для внутренних ML-систем — отдельный набор тестов на коррелированные отказы при множественных заявках одного пользователя.

Ограничения

Данные привязаны к одному вендору и юрисдикции США; перенос на другие рынки и продукты не доказан. Исследование описывает корреляции и масштаб эффекта, но не даёт готового «патча» для конкретного API вендора.