Недавно предложенная поправка к законам Калифорнии о дискриминации при приеме на работу сделает программное обеспечение для принятия решений на основе искусственного интеллекта источником юридической ответственности.
Предложение сделает незаконным использование предприятиями и агентствами по трудоустройству автоматизированных систем принятия решений для отсеивания соискателей, которые считаются защищенным классом Департаментом справедливого трудоустройства и жилищного строительства Калифорнии. Широкие формулировки, однако, означают, что закон может быть легко применен к «приложениям или системам, которые могут иметь лишь косвенное отношение к решениям о трудоустройстве», пишут юристы Брент Гамильтон и Джеффри Босли из Davis Wright Tremaine.
По словам Гамильтона и Босли, в проекте широко определены системы и алгоритмы автоматического принятия решений, являющиеся основополагающими для закона. Отсутствие конкретики означает, что технологии, разработанные для помощи в принятии решений человеком небольшими, тонкими способами, могут в конечном итоге быть объединены с наймом программного обеспечения, как и сторонние поставщики, которые предоставляют код.
В предлагаемый закон включены строгие требования к ведению записей, которые удваивают срок хранения записей с двух до четырех лет и требуют, чтобы любой, кто использует автоматизированные системы принятия решений, сохранял все данные машинного обучения, созданные в рамках его работы и обучения.
Учебные наборы данных также возлагают ответственность на поставщиков: «Любое лицо, которое занимается рекламой, продажей, предоставлением или использованием инструмента выбора, включая, помимо прочего, автоматизированную систему принятия решений, перед работодателем или другим субъектом, на которого распространяется действие, должно вести учет критерии оценки, используемые автоматизированной системой принятия решений», — говорится в предлагаемом тексте. В нем особо упоминается, что он также должен вести записи для каждого клиента, для которого он обучает модели.
Большая цель
Системы отслеживания кандидатов (ATS) и системы управления набором персонала (RMS) используются почти повсеместно: одно исследование 2021 года показало, что более 90% предприятий используют такое программное обеспечение для ранжирования и фильтрации кандидатов.
То же исследование предполагает, что программное обеспечение для управления персоналом, подпадающее под действие предлагаемого закона Калифорнии, также является одной из причин, по которой работодатели испытывают проблемы с заполнением вакансий. Исследование пришло к выводу, что точки данных часто служат заменителями личных качеств, которые работодатель может захотеть отфильтровать, но личность и резюме не всегда идеально совпадают, что приводит к исключению жизнеспособных кандидатов.
Непреднамеренная фильтрация не подпадает под действие недавно предложенного калифорнийского закона, в котором основное внимание уделяется способам, которыми программное обеспечение может непреднамеренно или иным образом дискриминировать определенные типы людей.
У инструментов ИИ и автоматизации были проблемы с предвзятостью в течение многих лет. Недавно предложенный Калифорнией закон не предлагает никаких решений, и это может привести к тому, что калифорнийские предприятия не смогут решить, как реагировать, если вообще будут реагировать.
Гамильтон и Босли предлагают, чтобы работодатели в Калифорнии проверили свое программное обеспечение ATS и RMS, чтобы убедиться, что оно соответствует предложению, улучшить свое понимание того, как работают алгоритмы, которые они используют, быть готовыми продемонстрировать, что результаты их процесса справедливы, и поговорить с поставщиками, чтобы убедиться они делают то, что им нужно сделать, чтобы соответствовать.
45-дневный период общественного обсуждения предложенных изменений еще не открыт, а это означает, что нет графика рассмотрения, внесения поправок и представления изменений для принятия. ®
