В среду Европейский парламент принял Закон об искусственном интеллекте, первый в своем роде закон в мире, который запрещает приложения, создающие неприемлемый уровень риска для безопасности и конфиденциальности людей.
Закон направлен на регулирование приложений ИИ по четырем уровням риска: неприемлемый, высокий риск, ограниченный риск и минимальный риск. Наиболее вредные продукты или услуги запрещены и не могут быть развернуты в ЕС.
К таким рискам относятся, например, биометрические системы в режиме реального времени в общественных местах или алгоритмы прогнозирования полицейских, которые профилируют людей или места на основе прошлой преступной деятельности. Также запрещено извлекать фотографии людей из Интернета или записи с камер видеонаблюдения для создания баз данных для систем распознавания лиц. Модели ИИ, обозначающие важные личные характеристики, такие как пол, раса или предсказывающие их религию, сексуальность, политическую ориентацию, также были признаны незаконными.
Другие приложения с неприемлемым риском включают правоохранительные органы, использующие распознавание лиц, за исключением таких случаев, как расследование серьезных преступлений, когда они получили разрешение на использование этого инструмента. Полиция и пограничная служба, а также работодатели, школы или университеты также не могут использовать системы распознавания эмоций. Эти разновидности технологий ИИ считаются навязчивыми и часто увековечивают предубеждения и приводят к дискриминационным действиям. Ошибки могут привести к катастрофическим последствиям, например к аресту невиновного человека, ошибочно идентифицированного камерами распознавания лиц.
К уровню высокого риска относятся все приложения ИИ, которые могут нанести вред здоровью, безопасности, правам или окружающей среде людей. Хотя Европейский парламент заявил, что это будет распространяться на такие вещи, как алгоритмы рекомендаций в социальных сетях — или системы, которые могут влиять на выборы и поведение избирателей — неясно, подпадает ли под это определение вывод больших языковых моделей или генеративного ИИ, такого как ChatGPT.
Однако официальные лица упомянули, что разработчики, создающие генеративные системы искусственного интеллекта, должны будут раскрывать информацию о том, был ли контент, включая текст или изображения, создан с помощью автоматизированных инструментов. Законодатели считают, что это решит растущую проблему дипфейков и дезинформации, распространяемой такими программами, как ChatGPT или Midjourney. Компании, разрабатывающие инструменты такого типа, также должны предоставить подробную документацию по защищенным авторским правом данным, которые они использовали для обучения своих моделей, и сделать отчеты общедоступными.
Конечно, дело не только в сдерживании ИИ. Содокладчик Брандо Бенифеи из Италии объяснил, что крупные технологические разработчики систем искусственного интеллекта сами бьют тревогу. «Мы хотим, чтобы положительный потенциал ИИ для творчества и продуктивности был использован, — сказал он, — но мы также будем бороться, чтобы защитить нашу позицию и противостоять опасностям для наших демократий и свобод».
С этой целью парламентарии включили исключения для исследовательской деятельности и компонентов ИИ, предоставляемых по лицензиям с открытым исходным кодом, чтобы стимулировать инновации в области ИИ и поддерживать МСП. Закон продвигает так называемые регулятивные песочницы, созданные государственными органами, для тестирования ИИ перед его развертыванием.
Роберта Метсола, президент Европейского парламента, заявила в своем заявлении: «Прежде всего, технологии развиваются. Инновации продвигают нас вперед и открывают новые возможности, и мы, как законодатели, должны воспользоваться этой возможностью. Речь идет об изменениях. Речь идет о понимании что мы не можем позволить себе оставаться на месте и не бояться будущего».
«Во-вторых, в будущем нам потребуются постоянные четкие границы и ограничения для искусственного интеллекта, и здесь есть одна вещь, в отношении которой мы не пойдем на компромисс. Всякий раз, когда технологии развиваются, они должны идти рука об руку с нашими основными правами и демократическими ценностями. И, наконец, , мы должны пересмотреть то, как мы принимаем законы и мыслим перед лицом неограниченного доступа к искусственному интеллекту, потому что началась новая эра контроля».
Теперь, когда закон об искусственном интеллекте одобрен, законодатели начнут переговоры с Советом Европы об окончательной форме закона. ®
