Как предвзятость попадает в алгоритм найма
Алгоритм отбора обычно учится на примерах прошлых решений: кого приглашали на собеседование, кому делали предложение и кто успешно работал. Но эти данные отражают не только способности кандидатов — в них могут быть и прежние привычки работодателя. Если в прошлом на определённые должности чаще нанимали людей из одной группы, система способна принять этот перекос за признак подходящего кандидата.
Необязательно, чтобы в программе был прямой признак вроде пола или возраста. Алгоритм может опираться на косвенные подсказки — например, названия учебных заведений, перерывы в стаже или слова в резюме. Такие признаки иногда связаны с принадлежностью к группе и незаметно влияют на итоговый рейтинг.
Что именно проверяют аудиторы
Аудит начинается с разбора задачи и данных: что система считает «успешным» кандидатом, на каких примерах обучалась и какие сведения использует. Затем проверяют, как меняются оценки и решения для сопоставимых резюме, а также различаются ли результаты для групп кандидатов. Если один вариант резюме меняет только несущественную для работы деталь, но получает другую оценку, это повод выяснить, на что реагирует модель.
Важно проверить и весь процесс, а не только код. Даже нейтральный рейтинг может привести к перекосу, если рекрутеры просматривают лишь верхнюю часть списка или данные для обучения неполны. Поэтому выводы аудита зависят от того, какие сведения доступны проверяющим и какие решения они измеряют.
Проверка — не гарантия
Обнаруженный перекос иногда можно уменьшить: изменить обучающие данные, убрать ненадёжные признаки или пересмотреть порог, после которого кандидата допускают к следующему этапу. Но исправление одного показателя не обязательно устраняет причину и может повлиять на другие группы. Аудит полезен не как печать «алгоритм справедлив», а как способ обнаружить, где автоматизированная оценка расходится с требованиями самой работы.
