Технологическая фирма Workday сталкивается с коллективным иском, утверждающим, что ее технология проверки кандидатов на работу является дискриминационной, после постановления окружного судьи Калифорнии в пятницу. Результат может создать прецедент относительно того, могут ли и как компании использовать алгоритмы и искусственный интеллект для принятия решений о найме, поскольку компании все чаще внедряют эту технологию.
В прошлом году человек по имени Дерек Мобли подал в суд на компанию-разработчика программного обеспечения для управления персоналом, утверждая, что алгоритмы Workday стали причиной того, что ему отказали в более чем 100 вакансиях на платформе в течение семи лет из-за его возраста, расы и инвалидности. С тех пор к нему присоединились еще четыре истца с обвинениями в дискриминации по возрасту.
Вместе истцы, все в возрасте старше 40 лет, утверждают, что они подали сотни заявлений о приеме на работу через Workday и каждый раз получали отказ — иногда в течение нескольких минут или часов. Они обвиняют алгоритм Workday, который, по их словам, «непропорционально лишает людей старше сорока (40) лет возможности получить оплачиваемую работу», когда он проверяет и ранжирует кандидатов, говорится в судебных документах.
Предварительное постановление судьи Риты Линь, вынесенное в пятницу, позволит рассматривать дело как коллективный иск — по аналогии с групповым иском.
Инструменты ИИ могут помочь HR-специалистам управлять потоком сотен заявок, которые они получают — некоторые из которых, возможно, были созданы с использованием ИИ. Но эксперты беспокоятся о том, что технология определяет, какие кандидаты «наиболее квалифицированы», поскольку ИИ может содержать предубеждения, которые могут помешать людям получить работу на основе их возраста, пола, расы или других характеристик.
Условия обслуживания с Clare Duffy Robot Recruiters: как ИИ помогает решать, кого нанимать Если вы подаете заявку на работу онлайн, есть большая вероятность, что ваша заявка будет подвергнута какой-то оценке ИИ. Но что ищет алгоритм ИИ и насколько эффективно ИИ помогает наиболее квалифицированным кандидатам получить работу? Хильке Шеллманн, журналист-расследователь и доцент Нью-Йоркского университета, рассказывает нам о том, как ИИ меняет найм и что вам следует знать об ИИ на рабочем месте, как только вы получите работу. Какие у вас есть вопросы о технологиях в вашей жизни? Напишите нам по адресу CNNTermsofService@Gmail.com 04 марта 2025 г. • 36 мин …
- Подкасты Apple
- Спотифай
- Пандора
- Подключайтесь
- Радио iHeart
- Радио.ком
- Амазонка
- RSS
Например, Американский союз защиты гражданских свобод предупредил, что инструменты найма на основе ИИ «представляют огромную опасность усугубления существующей дискриминации на рабочем месте». В одном из громких случаев в 2018 году Amazon отказалась от автоматизированного инструмента ранжирования кандидатов на вакансии после того, как обнаружила, что система отдает предпочтение кандидатам-мужчинам по сравнению с женщинами.
Тем не менее, Workday опровергает утверждения о том, что ее технология является дискриминационной. В своем заявлении представитель Workday отметил, что пятничный приказ является «предварительным, процессуальным постановлением… которое опирается на обвинения, а не на доказательства».
«Мы по-прежнему считаем, что это дело не имеет под собой никаких оснований», — заявил представитель. «Мы уверены, что как только Workday будет разрешено защищать себя с помощью фактов, претензии истца будут отклонены».
Сотни заявлений, работы нет
Workday, используемый более чем 11 000 организаций по всему миру, предоставляет компаниям платформу для публикации открытых вакансий, подбора кандидатов и управления процессом найма; каждый месяц с помощью его технологии публикуются миллионы открытых вакансий. Он также предлагает услугу под названием «HiredScore AI», которая, как он утверждает, использует «ответственный ИИ» для оценки лучших кандидатов и сокращения времени, которое рекрутеры тратят на проверку заявок.
В иске, поданном в суд, компания Workday утверждает, что не проверяет потенциальных сотрудников для клиентов и что ее технология не принимает решений о найме.
Но Мобли утверждает, что ему отказывали снова и снова — часто без приглашения на собеседование — несмотря на то, что он с отличием окончил колледж Morehouse и имел почти десятилетний опыт работы в сфере финансов, ИТ и обслуживания клиентов. В одном случае он подал заявление о приеме на работу в 12:55 ночи и получил уведомление об отказе менее чем через час в 1:50 ночи, согласно судебным документам.
Другая истец, Джилл Хьюз, заявила, что она также получала автоматические отказы на сотни вакансий, «часто поступавшие в течение нескольких часов после подачи заявления или в странное время вне рабочего времени… что указывает на то, что человек не рассматривал заявления», — говорится в судебных документах. В некоторых случаях она утверждает, что в этих письмах с отказом ошибочно указывалось, что она не соответствует минимальным требованиям для должности.
«Алгоритмическое принятие решений и анализ данных не являются и не должны считаться нейтральными по отношению к расе, инвалидности или возрасту», — говорится в первоначальной жалобе Мобли. «Слишком часто они усиливают и даже усугубляют историческую и существующую дискриминацию».
Эксперты говорят, что инструменты найма на основе ИИ могут демонстрировать предвзятость, даже если компании никогда не поручали им отдавать предпочтение определенным категориям людей перед другими. Эти системы часто обучаются на резюме или профилях существующих сотрудников, но если существующий персонал компании в основном состоит из мужчин или белых, технология может непреднамеренно сделать вывод, что наиболее успешные кандидаты должны обладать этими характеристиками.
Хильке Шеллманн, автор книги «Алгоритм» об использовании ИИ при найме, которая не участвует в судебном процессе Workday, рассказала о ситуации, когда другой инструмент оценки резюме присвоил больше баллов резюме со словом «бейсбол», чем тем, где было указано «софтбол».
«Это была какая-то случайная работа, не имеющая никакого отношения к спорту, и, вероятно, парсер проанализировал резюме, и, возможно, среди них была группа людей, в резюме которых было слово «бейсбол», а инструмент провел статистический анализ и обнаружил, что да, это очень важно», — сказал Шеллманн в подкасте «Условия обслуживания» на канале CNN в начале этого года.
«ИИ не поймет: «Погодите-ка, бейсбол не имеет никакого отношения к этой работе»», — сказала она.
В жалобе Мобли утверждается, что технология Workday работает аналогичным образом.
«Если алгоритмические инструменты принятия решений Workday обнаружат, что клиент-работодатель не одобряет определенных кандидатов, являющихся членами защищенной категории, он снизит частоту рекомендаций этих кандидатов», — говорится в жалобе.
Пятничный приказ Лин позволит адвокатам Мобли уведомить других людей, которые могут иметь аналогичные иски о дискриминации против Workday, и разрешить им присоединиться к иску. Однако Workday все еще может просить суд рассматривать иски индивидуально, а не как группу.
В иске содержится требование о возмещении неопределенного денежного ущерба, а также о судебном постановлении, обязывающем компанию изменить свою практику.
