Администрация киберпространства Китая выпустила руководство о том, как правильно делать дипфейки.
Дипфейки используют искусственный интеллект для создания реалистичных изображений — обычно видео — людей, говорящих и/или делающих то, чего они не говорили и/или не делали. Они вызывают споры за пределами Китая из-за их способности вводить зрителей в заблуждение и создавать проблемы для изображенных людей.
Пекин явно также обеспокоен этой техникой, поскольку Администрация киберпространства (CAC) издала правила, запрещающие их создание без разрешения субъекта, а также изображение или произнесение чего-либо, что может рассматриваться как противоречащее национальным интересам. Под это определение подпадает все, что противоречит социалистическим ценностям, равно как и любая форма «незаконной и вредоносной информации» или использование людей, созданных искусственным интеллектом, в попытке обмануть или оклеветать.
Но правила также предполагают, что Китай ожидает, что синтетические люди будут широко использоваться. Например, они позволяют использовать дипфейки в таких приложениях, как чат-боты. В таких сценариях дипфейки должны быть помечены как цифровые творения.
Документ также предусматривает, что дипфейки будут использоваться онлайн-издателями, которые должны учитывать множество других правил Китая в отношении приемлемого онлайн-контента.
В том числе тот, который подвергал цензуре изображения Винни-Пуха в Интернете, поскольку любимый медведь, изображенный иллюстратором Э. Х. Шепардом, напоминал и издевался над пожизненным президентом Китая Си Цзиньпином.
Регистр поэтому предполагает, что это будет очень, очень смелый китайский разработчик, который создаст фотореалистичного чат-бота или аватара медведя.
В правилах также указывается, как создатели дипфейков, которых называют «поставщиками услуг глубокого синтеза», должны заботиться о том, чтобы их модели и алгоритмы AI/ML были точными и регулярно пересматривались, а также обеспечивать безопасность собираемых ими данных.
Правила также включают требование регистрации пользователей, включая их настоящие имена. Потому что позволить неизвестному человеку возиться с дипфейками не годится.
Правила представлены как гарантия того, что технология синтеза избегает недостатков и приносит пользу Китаю. Или, как выразился Пекин (хотя и в переводе), дипфейки должны «способствовать здоровому развитию информационных услуг в Интернете и поддерживать хорошую экологию киберпространства».
Правила вступают в силу с 10 января 2023 года. ®
