Кризис доверия к ИИ: почему кандидаты опасаются алгоритмических фильтров при приеме на работу

Стремительное внедрение искусственного интеллекта в HR-процессы породило волну опасений среди соискателей. Ситуация, в которой оказался выпускник медицинского вуза из штата Техас, ярко иллюстрирует проблему «непрозрачности» автоматизированных систем отбора. Столкнувшись с отсутствием приглашений на собеседования, он предпринял попытку самостоятельно выяснить, не стала ли причиной отказов работа алгоритмов.

Алгоритмический барьер

В ходе анализа собственной документации студент обнаружил формулировки, которые, по его мнению, могли интерпретироваться ИИ-системами некорректно. В характеристиках была указана «добровольная» пауза в обучении, хотя перерыв был вызван серьезным аутоиммунным заболеванием. Это привело к опасениям, что автоматизированные фильтры понижают рейтинг кандидатов, чьи биографии содержат неоднозначные с точки зрения программы маркеры.

Проблема усугубляется тем, что на сегодняшний день лишь несколько штатов в США законодательно регулируют использование подобных инструментов. Большинство существующих норм лишь обязывают работодателя уведомлять кандидата об использовании ИИ, но не раскрывают механизмов оценки. В результате соискатели чувствуют себя заложниками «черного ящика», где их профессиональная пригодность определяется непрозрачными вычислениями.

Техническое расследование

В попытке доказать предвзятость системы, будущий врач провел масштабное исследование:

• Разработал синтетический набор данных из 6 000 профилей соискателей для сравнительного анализа.
• Использовал инструменты для оценки эмоциональной окраски текста, чтобы проверить, как алгоритмы реагируют на описание медицинских причин перерывов в учебе.
• Попытался реконструировать логику работы алгоритма, опираясь на патенты компании-разработчика Thalamus и собственные навыки программирования на языке Python.

Результаты моделирования показали, что изменение всего нескольких слов в описании причин перерыва в обучении может существенно влиять на вероятность прохождения первичного отбора. В частности, формулировки с медицинским обоснованием повышали шансы кандидата на 66% по сравнению с размытыми «личными причинами».

Реакция индустрии

Представители компании Thalamus заявили, что их сервис Cortex не использует ИИ для ранжирования или дискриминации кандидатов, а его функционал ограничен нормализацией оценок и отображением данных. В компании подчеркнули, что возникшие ранее сообщения об ошибках в расчетах были единичными случаями, вызванными некорректным использованием инструмента самими пользователями.

Эксперты в области аудита ИИ отмечают, что на текущий момент доказать дискриминацию в отношении конкретного человека практически невозможно из-за отсутствия доступа к внутренним логическим цепочкам нейросетей. Подобные проверки требуют агрегированных данных, которые недоступны рядовому соискателю.

Несмотря на то, что герой этой истории в конечном итоге получил место в престижной программе резидентуры в Колумбийском университете, он продолжил свои изыскания. Данная ситуация поднимает важный вопрос: не пора ли внедрить государственные стандарты прозрачности для ИИ-рекрутинга, аналогичные тем, что действуют для сервисов проверки кредитных историй? Сейчас кандидат, несогласный с решением алгоритма, зачастую лишен эффективных инструментов защиты своих прав.

* — деятельность компании запрещена на территории РФ