Широкомасштабный законопроект о регулировании ИИ в масштабах всего Европейского Союза стал на один шаг ближе к принятию, и комитеты Европейской комиссии по внутреннему рынку и гражданским свободам выразили свое одобрение подавляющим большинством голосов. Если законопроект станет законом, это может привести к трудным временам для операторов ИИ в экономическом блоке.
Закон ЕС об искусственном интеллекте, принятый 84 голосами против 7 (при 12 воздержавшихся), устанавливает ряд постепенно ужесточающихся правил для поставщиков ИИ в зависимости от предполагаемого уровня риска системы. Согласно этим правилам, системы ИИ, которые, по мнению ЕС, имеют «неприемлемый уровень риска для безопасности людей», будут полностью запрещены.
Первоначально такие технологии включали системы социального подсчета и технологии, использующие подсознательные методы для манипулирования пользователями, но комитеты, проголосовавшие за вынесение закона на пленарное голосование, внесли ряд поправок.
Члены Европарламента комитета добавили в категорию «неприемлемые» различные системы биометрической идентификации, в том числе системы биометрической идентификации в реальном времени в общественных местах или системы, использующие деликатные категории для группировки людей, интеллектуальные полицейские системы и системы распознавания эмоций. Извлечение биометрических данных из социальных сетей и видеонаблюдения для создания баз данных лиц также было добавлено в список запрещенных практик ИИ.
Другие изменения, внесенные в комитет, привели к тому, что политики расширили системы, классифицируемые как «высокий риск», включив в них модели ИИ, которые могут «навредить здоровью, безопасности, основным правам или окружающей среде людей», и системы ИИ, которые можно было бы использовать для влияния на избирателей.
Комитеты рассматривают предыдущие проблемы Закона об искусственном интеллекте
В прошлом месяце несколько членов группы, работающей над Законом об ИИ, выразили обеспокоенность тем, что системы ИИ общего назначения, такие как ChatGPT, развиваются быстрее, чем ожидалось, в результате чего Закон об ИИ отстает в плане возможности регулирования таких инструментов.
В ответ в их боты было добавлено несколько строк, чтобы охватить основополагающие модели и их поставщиков, требуя от них «гарантировать надежную защиту основных прав, здоровья и безопасности, а также окружающей среды, демократии и верховенства закона». Чтобы обеспечить это, депутаты Европарламента добавили требования, согласно которым поставщики ИИ должны регулярно оценивать и снижать риски для соблюдения требований и иметь возможность регистрировать свои продукты в базе данных ЕС.
Генеративные базовые модели, такие как ChatGPT, также столкнутся с новыми требованиями, если закон об искусственном интеллекте будет принят. Правила прозрачности требуют, чтобы поставщики раскрывали информацию о том, что контент был создан с помощью ИИ, встраивали правила, предотвращающие создание нелегального контента моделями, и публиковали сводки защищенных авторским правом данных, используемых для обучения модели.
Работа над Законом об ИИ ведется с апреля 2021 года, и с тех пор ИИ общего назначения вряд ли был единственной проблемой, связанной с этим правилом. В прошлом году американский аналитический центр Brookings заявил, что обеспокоен тем, что это правило приведет к тому, что усилия по разработке программного обеспечения с открытым исходным кодом в ЕС будут подорваны из-за опасений, что разработчики могут быть привлечены к ответственности за неправильное использование их кода.
В ответ на это члены Европарламента добавили исключения из правил Закона для исследователей и компонентов ИИ, предоставляемых по лицензиям с открытым исходным кодом. «Мы уверены, что наш текст уравновешивает защиту основных прав с необходимостью обеспечения правовой определенности для бизнеса и стимулирования инноваций в Европе», — сказал содокладчик закона об искусственном интеллекте Брандо Бенифеи.
Отвечая на принятие комитетами усиленного Закона об искусственном интеллекте, Amnesty International заявила, что этот шаг стал значительным шагом вперед.
«Сегодня Европейский парламент дал четкий сигнал о том, что права человека должны быть в центре внимания этого знаменательного законодательства, проголосовав за запрет некоторых методов, основанных на ИИ, которые несовместимы с правами человека», — сказал советник Amnesty International по защите интересов Мгер Акопян.
Закон может стать первым в мире сводом правил, регулирующих использование ИИ, если он будет принят на предстоящем пленарном заседании ЕС в следующем месяце. В случае принятия правило будет передано в Европейский совет для переговоров об окончательной форме закона. ®
