Роботы-рекрутеры научились у людей плохому
Популярную в США систему видео-собеседований HireVue обвинили в предвзятости
Американские правозащитники пожаловались властям на рекрутинговую фирму HireVue, которая использует искусственный интеллект для сравнения кандидатов на вакансии. Созданного компанией робота-рекрутера подозревают в псевдонаучном походе к подбору персонала.
Фото: Stringer China / Reuters
Фото: Stringer China / Reuters
Систему HireVue в настоящее время применяют более 100 компаний, включая Hilton и Unilever. Робот уже проинтервьюировал более 1 млн человек. Система оснащена технологиями распознавания лиц и голосов людей. Она отслеживает манеру речи, подбор слов, мимику кандидата, движения рук и тела и, наконец, ответы на поставленные роботом вопросы.
В результате робот выдает каждому кандидату оценку «соответствия должности».
В ее в основе — выведенные искусственным интеллектом оценки навыков человека, его способности к обучению, а также стрессоустойчивости.
Самим соискателями эти оценки не раскрываются, зато их видит отдел кадров компании—клиента HireVue и на их основании принимает решение о найме того или иного кандидата.
В минувшую среду в Федеральную торговую комиссию США (FTC) поступила жалоба на HireVue. Правозащитная организация Electronic Privacy Information Center (EPIC) попросила регулятора провести расследование в отношении разработчика, обвинив его в недобросовестной конкуренции и создании технологии, которая несправедливо оценивает кандидатов. FTC пока лишь подтвердила, что получила эту жалобу, не уточнив, приведет ли она к расследованию.
Если это все же случится, то станет первым подобным расследованием в отношении компании, работающей на быстро набирающем популярность рынке роботов-рекрутеров.
В жалобе EPIC говорится, что технология HireVue выдает «предвзятые, недоказуемые и нереплицируемые результаты», которые могут основываться на ошибках, позаимствованных у обычных людей во время обучения ИИ.
Это, например, предвзятое отношение на основании цвета кожи, пола, расы или сексуальной ориентации.
«Приложение HireVue не просто очередная история о предвзятости искусственного интеллекта — любой сигнал, обнаруженный в языке тела или построении речи должен быть результатом предвзятого отношения. Другими словами, это не полезное приложение, у которого есть побочный эффект в виде предвзятости. Оно само — двигатель увековечивания предвзятости», — прокомментировал ситуацию профессор информатики Принстонского университета Арвинд Нарайанан.
Впрочем, доказать, что ИИ HireVue действительно предвзято относится к некоторым кандидатам, будет крайне непросто. По закону разработчики не обязаны раскрывать детали работы их ИИ, а по своей воле они обнародовать такие данные не спешат. HireVue уже заявила, что их робот вообще не является технологией распознавания лиц, при этом он прошел тесты на предвзятость, отвечающие «мировым стандартам».
Но у EPIC есть еще одна претензия: якобы система HireVue не отвечает принятым ОЭСР нормативам по ИИ, к которым в этом году присоединились и США. Так, оценка робота HireVue не может быть «оспорена по существу» кандидатами, которых оценивала система. Ведь они не знают своих результатов, а критерии оценки компанией не раскрываются.
Пока же рынок роботов-интервьюеров активно растет и, согласно прогнозам, продолжит это делать в ближайшие годы. Энтузиазм, с которым компании берутся применять искусственный интеллект при найме людей на работу, легко объясним: роботы-рекрутеры, какими бы они ни были, позволяют экономить предприятиям миллионы. Ведь вместо того, чтобы платить зарплату целому отделу кадров и специалистам по HR, можно купить технологию, которая сможет без устали и без перерывов отбирать кандидатов на вакансии.
Так, по оценкам Juniper, уже в 2022 году объем сэкономленных средств за счет использования, например, чат-ботов при отборе кандидатов составит $8 млрд. А к 2024 году сам рынок роботов-рекрутеров достигнет, по прогнозу Global Market Insights, $1,3 млрд.