Национальная ассоциация генеральных прокуроров, орган, который все штаты и территории США используют для совместного решения юридических вопросов, призвала Конгресс принять закон, запрещающий использование искусственного интеллекта для создания изображений сексуального насилия над детьми.
В письме [PDF] Во вторник Генеральная прокуратура обратилась к лидерам Сената и Палаты представителей с просьбой к законодателям назначить эксперта для изучения того, как технология машинного обучения для создания контента может использоваться для эксплуатации детей, с целью установления новых законов, правил, или правила защиты от материалов о сексуальном насилии над детьми, созданных ИИ (CSAM).
Достижения в области генеративных технологий искусственного интеллекта упростили создание реалистичных изображений, на которых изображены реальные люди в весьма компрометирующих или тревожных вымышленных сценариях, или фальшивые люди в вымышленных обстоятельствах. Группы онлайн-безопасности и правоохранительные органы заметили рост числа так называемых дипфейков, изображений или видео, в которых лицо реального человека наклеивается на чужое тело для создания фейкового контента. Дипфейки детских фотографий можно использовать для настройки существующего CSAM и увеличения количества этого мерзкого контента.
Онлайн-инструменты преобразования текста в изображение также могут создавать CSAM, который выглядит реалистично, но не изображает реального ребенка. Хотя компании, предоставляющие услуги и программное обеспечение для преобразования текста в изображение, придерживаются строгой политики и часто блокируют изображения, содержащие наготу, пользователи иногда могут найти способы обойти ограничения. Модели с открытым исходным кодом также могут генерировать CSAM, и их труднее контролировать, поскольку их можно запускать локально.
Создание порнографических дипфейков, изображающих реальных людей, является незаконным, по крайней мере, в некоторых частях Соединенных Штатов. Ранее в этом году прокуратура Лонг-Айленда, штат Нью-Йорк, обвинила мужчину в создании и распространении откровенно сексуальных дипфейков, изображающих «более дюжины несовершеннолетних женщин» с использованием изображений, которые он взял из профилей в социальных сетях. Этот созданный компьютером материал был опубликован на порносайтах вместе с личной информацией жертв и призывал других извращенцев преследовать их. 22-летний мужчина был приговорен к шести месяцам тюремного заключения и десяти годам условно с серьезными условиями сексуального преступления.
Однако ни одно федеральное законодательство не запрещает создавать дипфейки NSFW без согласия. Законы еще более мрачны, когда речь идет о полностью фальшивых CSAM, созданных искусственным интеллектом, в которых жертвами не являются настоящие люди.
Национальная ассоциация генеральных прокуроров утверждает, что такие материалы не исключают жертв, поскольку инструменты, способные создавать такие изображения, вероятно, были обучены на реальном CSAM, создание которого нанесло вред реальным детям. Таким образом, создание более виртуального ИИ может способствовать дальнейшей эксплуатации детей и распространению более отвратительного и незаконного контента в Интернете.
Поэтому AG хотят принять законы или другие инструменты для борьбы с дипфейковым порно, будь то реальные люди, которых манипулируют в фейковых ситуациях без разрешения, или полностью фейковые материалы, которые, вероятно, были созданы на основе реальных незаконных материалов.
«Однажды в ближайшем будущем растлитель малолетних сможет использовать искусственный интеллект для создания дипфейкового видео, на котором ребенок на улице совершает половой акт по своему выбору», — заявил в своем заявлении генеральный прокурор штата Огайо Дэйв Йост. «Графическое изображение сексуального насилия над детьми только подпитывает злые желания. Общество, которое не может защитить своих детей, буквально не имеет будущего», – сказал он.
По данным AP, письмо было инициировано генеральным прокурором Южной Каролины Аланом Уилсоном.
«Во-первых, Конгресс должен создать экспертную комиссию для изучения средств и методов ИИ, которые могут быть использованы конкретно для эксплуатации детей, и предложить решения по сдерживанию и борьбе с такой эксплуатацией», — говорится в документе.
«Во-вторых, после рассмотрения рекомендаций экспертной комиссии Конгресс должен принять меры по предотвращению и решению проблемы эксплуатации детей, например, путем расширения существующих ограничений на CSAM, чтобы они явно охватывали CSAM, созданный искусственным интеллектом. Это обеспечит прокурорам инструменты, необходимые для защиты наших детей. “
Бороться с поддельным CSAM сложно. Типичные методы обнаружения незаконного контента основаны на хешировании известных изображений, которые распространяются в Интернете. Поэтому сложно идентифицировать новые изображения, особенно если они были обработаны с помощью программного обеспечения. Однако генеральный прокурор считает, что законодатели должны действовать, поскольку технология будет продолжать развиваться.
«Мы участвуем в гонке со временем, чтобы защитить детей нашей страны от опасностей ИИ. Действительно, пресловутые стены города уже прорваны. Пришло время действовать», — заключает письмо. ®
