Администрация Байдена и Министерство юстиции предупредили работодателей, использующих программное обеспечение ИИ для целей найма, принять дополнительные меры для поддержки соискателей с ограниченными возможностями, иначе они рискуют нарушить Закон об американцах с ограниченными возможностями (ADA).
В соответствии с ADA работодатели должны предоставить адекватные условия всем квалифицированным лицам с ограниченными возможностями, ищущим работу, чтобы они могли справедливо участвовать в процессе подачи заявления. Но все более широкое внедрение алгоритмов машинного обучения компаниями при приеме на работу открывает новые возможности, которые могут поставить кандидатов с ограниченными возможностями в невыгодное положение.
На этой неделе Комиссия по равным возможностям трудоустройства (EEOC) и Министерство юстиции опубликовали новый документ, в котором содержатся технические рекомендации, призванные гарантировать, что компании не нарушают ADA при использовании технологии ИИ для целей найма.
«Новые технологии не должны становиться новыми способами дискриминации. Если работодатели знают о том, как ИИ и другие технологии могут дискриминировать людей с ограниченными возможностями, они могут предпринять шаги для предотвращения этого», — сказала председатель EEOC Шарлотта Берроуз.
«Как нация, мы можем объединиться, чтобы создать рабочие места, где ко всем сотрудникам относятся справедливо. Этот новый документ о технической помощи поможет обеспечить, чтобы люди с ограниченными возможностями были включены в возможности трудоустройства в будущем».
Например, компании, использующие автоматизированные инструменты обработки естественного языка для проверки резюме, могут отклонять кандидатов, у которых есть пробелы в их трудовом стаже. Людям с ограниченными возможностями, возможно, пришлось уйти с работы по состоянию здоровья, и, следовательно, они рискуют быть автоматически отклоненными на раннем этапе процесса найма, несмотря на то, что они имеют хорошую квалификацию.
Есть и другие способы, которыми ИИ может дискриминировать людей с ограниченными возможностями. Программное обеспечение компьютерного зрения, анализирующее взгляд, выражение лица или тон кандидата, не подходит для людей с нарушениями речи, слепых или парализованных. В документе говорится, что работодатели должны принимать дополнительные меры предосторожности при использовании ИИ в своих решениях о найме.
Компании должны спрашивать поставщиков программного обеспечения, предоставляющих инструменты, создавали ли они их с учетом потребностей людей с ограниченными возможностями. «Пытался ли поставщик определить, ставит ли использование алгоритма в невыгодное положение лиц с ограниченными возможностями? Например, определял ли поставщик, связаны ли какие-либо черты или характеристики, измеряемые с помощью инструмента, с определенными ограничениями?» он сказал.
Работодатели должны подумать о том, как лучше всего поддерживать людей с ограниченными возможностями, например, информировать их о том, как их алгоритмы оценивают кандидатов, или давать им больше времени для прохождения тестов.
Если для ранжирования кандидатов используются алгоритмы, они могут рассмотреть возможность корректировки оценок для людей с ограниченными возможностями. «Если средние результаты для одной демографической группы менее благоприятны, чем для другой (например, если средние результаты для представителей определенной расы менее благоприятны, чем средние результаты для представителей другой расы), инструмент может быть изменен. уменьшить или устранить разницу», — говорится в документе.
«Алгоритмические инструменты не должны служить барьером для людей с ограниченными возможностями, ищущих работу», — заключила Кристен Кларк, помощник генерального прокурора отдела гражданских прав Министерства юстиции. «Это руководство поможет общественности понять, как использование работодателем таких инструментов может нарушить Закон об американцах с ограниченными возможностями, чтобы люди с ограниченными возможностями знали свои права, а работодатели могли принять меры для предотвращения дискриминации». ®
