Большинство резюме в крупных компаниях уже отсеивают ИИ-алгоритмы, и кандидат, скорее всего, получит отказ прежде, чем его документы увидит живой человек. RTVI рассказывает, почему доказать дискриминацию со стороны такой системы практически невозможно и что с этим пытаются делать американские регуляторы.

В мае 2025 года судья Рита Лин из Окружного суда Северной Калифорнии сертифицировала коллективный иск против компании Workday — разработчика алгоритмов найма, которыми пользуются работодатели. Истец Дерек Мобли, чернокожий мужчина старше сорока лет с задокументированными проблемами со здоровьем, утверждал, что системы Workday отклонили его при обращении более чем в сто компаний подряд. Суд согласился с тем, что Workday может нести ответственность как «агент» работодателей — поскольку именно ему была фактически делегирована функция отсева кандидатов. Дело продолжается, и в марте 2026 года суд отклонил попытку Workday добиться прекращения производства.

По данным Брукингского института, около 98,4% компаний из списка Fortune 500 уже используют ИИ в процессе найма. По данным американской ассоциации HR-специалистов SHRM за 2025 год, 43% организаций применяют ИИ в HR-процессах в целом — вдвое больше, чем годом ранее. Системы анализируют ключевые слова в резюме, тональность ответов, мимику на видеособеседованиях, в результате чего и кандидат с высокой вероятностью получит отказ прежде, чем его документы увидит живой человек.

Не болей

Недавно журнал Wired подробно описал историю Чада Марки — студента последнего курса медицинского факультета Дартмутского университета. В октябре 2025 года он ждал приглашений на собеседования в программы резидентуры по психиатрии (что-то вроде российской ординатуры) и получал только отказы. При этом у него были публикации в уважаемых рецензируемых изданиях JAMA и The Lancet, высокие оценки в Лиге плюща, рекомендации, в одной из которых профессор писал, что «никогда не встречал студента-медика, более искусного и точно определившегося с направлением».

Причину Марки нашел в официальном академическом досье. Там значилось, что он «добровольно» взял три отпуска по «личным причинам». На самом деле в 2021 году ему диагностировали анкилозирующий спондилит — аутоиммунное заболевание позвоночника, из-за которого он временами не мог стоять. Объяснение, почему он брал отпуска, было в том же документе, но ниже. Марки предположил, что автоматическая система зачитала «добровольно» и «личные причины» как тревожные маркеры.

Как пишет Wired, причиной отказов Марки скорее всего является инструмент Cortex компании Thalamus — в 2025—2026 годах он используется примерно в 30% программ резидентуры. Доступа к Cortex у Марки не было, поэтому он пошел другим путем, создав собственную упрощенную версию алгоритма найма и проверив гипотезу на ней. Сначала он воспользовался открытой моделью VADER, которая присваивает тексту числовой балл эмоциональной тональности. Она присвоила формулировке «личные причины» более низкий балл, чем медицински точному описанию болезни.

Затем он создал датасет из 6000 выдуманных кандидатов, каждый из которых имел свои рекомендации, указывал количество публикаций и т. д. Марки разбил их на две равные группы с одинаковыми академическими показателями, при этом во всех резюме значилось, что кандидаты брали академический отпуск. Они были разбиты на две группы: в досье кандидатов первой группы значилось, что отпуск был взят по «личным причинам», в досье второй — что причиной стало конкретное заболевание.

Обе группы он прогнал через собственную модель, обученную отбирать лучшие 12% претендентов. Кандидаты с медицинской формулировкой попадали в эту категорию на 66% чаще.

Потом, с помощью нейросети, он воссоздал систему отбора кандидатов по патенту купленной Thalamus компании Medicratic, и результат снова оказался тем же.

Гендиректор Thalamus Джейсон Реминник в ответ на официальный запрос сообщил, что ни одна из программ, куда подавал Марки, не использовала инструмент Medicratic, а Cortex якобы на момент подачи им резюме не применял алгоритмический скоринг кандидатов вообще. Марки, впрочем, не стал опускать руки и собственноручно разослал личные письма координаторам научных программ и получил десять приглашений на собеседования, после чего поступил в ординатуру Колумбийского университета.

Recraft

Свое резюме ближе к телу

Предвзятое отношение алгоритмических систем найма выражается не только в таких случаях. В августе 2025 года ученые из Мэрилендского университета, Национального университета Сингапура и Университета Огайо опубликовали препринт исследования о том, что большие языковые модели (LLM) при оценке резюме отдают предпочтение документам, написанным ими же. Авторы взяли 2245 реальных резюме, попросили семь моделей — GPT-4o, LLaMA 3.3-70B, DeepSeek-V3 и другие — переписать каждое, а затем выбрать лучшее. GPT-4o выбирала собственную версию в 97,6% случаев. По итогам симуляций кандидаты, использовавшие ту же модель, что и работодатель, ищущий кандидата, попадали в список на интервью на 23—60% чаще, чем настолько же квалифицированные соперники с резюме, написанными вручную.

Авторы указывают, что их находка «требует расширения концепции справедливости ИИ за пределы демографических диспропорций, к диспропорциям, возникающим при взаимодействии моделей между собой».

Традиционная предвзятость у моделей тем временем тоже фиксируется. Упомянутое выше исследование Брукингского института при рассмотрении решений по 500 резюме с разными именами показало, что LLM отдают предпочтение именам, чаще ассоциируемым с белыми людьми (в 85% случаев), именам же, ассоциирующимся с чернокожими мужчинам, предпочтение не было отдано ни разу. Авторы исследования, проведенного в бизнес-школе Беркли, проанализировали 133 ИИ-систем в разных отраслях — от кредитования до здравоохранения — и обнаружило половую предвзятость в 44% из них, а еще в 25% случаев была зафиксирована одновременно и расовая предвзятость.

К тому же, работодатели не спешат информировать о новых правилах найма соискателей. По докладу платформы Greenhouse, 70% из 63% соискателей, уже прошедших собеседование с ИИ, не были об этом предупреждены.

Попробуй докажи

Центральная проблема подобных систем найма — непрозрачность. Шеа Браун, гендиректор аудиторской компании Babl AI, объяснил Wired:

«Когда система работает на LLM, в центре ее находится очень непрозрачное ядро рассуждений, и любое объяснение того, как именно было принято решение, скрыто».

Доказать дискриминацию применительно к конкретному кандидату, по его словам, «невозможно причинно-следственным образом» — только по анализу агрегированных данных.

В США регуляторы постепенно начинают выстраивать законодательство в отношении таких систем найма на уровне штатов. Калифорния обязала компании проверять ИИ-системы найма с октября 2025 года. Иллинойс с января 2026-го запретил использование ИИ с дискриминирующим воздействием. Колорадо переносил аналогичный закон дважды — новая дата голосования по нему назначена на 30 июня 2026 года. В ЕС системы ИИ при найме отнесены к категории «высокого риска». Но те же авторы исследования о саморефеенсности ИИ, упомянутого ранее, указывают, что даже этих рамок недостаточно, ведь они не учитывают предвзятость, возникающую при взаимодействии моделей между собой.