Компания Workday, поставщик программного обеспечения для управления персоналом и финансами, приняла решение закрыть коллективный иск, в котором утверждается, что она создала систему проверки, которая привела к расовым предубеждениям.

Компания SaaS заявляет, что дело не имеет оснований после того, как в феврале ее обвинили в создании алгоритмов, которые привели к предвзятости в отношении чернокожих заявителей в возрасте 40 лет.

Иск был подан в Северный окружной суд Калифорнии, в котором утверждалось, что Workday «незаконно предлагает основанную на алгоритме систему проверки кандидатов, которая определяет, должен ли работодатель принять или отклонить заявление о приеме на работу на основании расы, возраста и/или инвалидности».

Жалоба на групповой иск [PDF] – который представляет интересы других заявителей, которые могли быть затронуты, – проистекает из предполагаемого опыта Дерека Мобли, темнокожего мужчины старше 40 лет, который страдает от беспокойства и депрессии. В судебных документах говорится, что с 2018 года Мобли подавал заявки на 80-100 вакансий в компаниях, которые используют Workday в качестве инструмента проверки найма.

Истец утверждает, что системы искусственного интеллекта Workday и инструменты проверки основаны на алгоритмах и данных, созданных людьми, которые часто имеют «встроенные мотивы, сознательные и бессознательные, для различения».

Юристы Workday на этой неделе решили отклонить жалобу по юридическим причинам в газетах. [PDF] подал в суд. К ним относятся то, что истец не предъявил требования, по которому может быть предоставлена ​​помощь в соответствии с Федеральным правилом гражданского судопроизводства 12 (b) (6), и за неисчерпание «административных средств правовой защиты», что означает, что они не исчерпали все потенциальные средства правовой защиты с Комиссией по равным возможностям трудоустройства (EEOC), органом низшей инстанции.

В судебных документах также говорится: “[The] Истец не может объяснить, как любая практика, которую он оспаривает, может создать несоответствие в отношении любого защищенного класса. [group protected by anti-discrimination laws]. Он не утверждает никакого причинно-следственного механизма, кроме неконкретного предположения, что клиенты теоретически могут привнести субъективность или предвзятость в использование ими инструментов Workday».

Workday подал заявление о рассмотрении его ходатайства судьей в сентябре.

Об этом сообщил представитель Workday. Регистр: «Мы считаем этот иск необоснованным. Как указано в ходатайстве об отклонении, поданном 17 июля, жалоба полностью лишена фактических утверждений и утверждений, подтверждающих иск».

В заявлении, опубликованном для нас в феврале, Workday заявила, что «привержена надежному ИИ» и действует «ответственно и прозрачно при разработке и доставке» своих решений ИИ «для поддержки справедливых рекомендаций».

«Мы участвуем в процессе проверки на основе рисков на протяжении всего жизненного цикла нашего продукта, чтобы помочь смягчить любые непредвиденные последствия, а также проводим обширные юридические проверки, чтобы обеспечить соблюдение нормативных требований», — добавил представитель. ®