Ключевые выводы
- Количество дипфейков, созданных с помощью ИИ, быстро растет: только в 2021 году их годовой прирост составит 900 процентов. Легкость манипуляций говорит о том, что джин уже выпущен из бутылки.
- Microsoft Designer, входящий в состав Microsoft Copilot, использовался для создания явных дипфейков Тейлор Свифт. Обходные пути и лазейки позволяют создавать сексуальные изображения, генерируемые ИИ, без согласия.
- Необходимость в регулировании ИИ является острой, поскольку компании действовали слишком быстро, не учитывая возможность злоупотреблений. Регулирование искусственного интеллекта необходимо, но сложно определить и обеспечить соблюдение законов, которые эффективно решают проблему использования изображений без согласия.
В быстро развивающейся сфере искусственного интеллекта (ИИ) возник очень тревожный феномен. Недавно феномен «дипфейков», созданный искусственным интеллектом, оказался в центре внимания благодаря Тейлор Свифт. Эти сложные изображения и видео, обработанные искусственным интеллектом, пугающе реалистичны и позволяют создавать откровенный контент без согласия лиц, представленных в нем. Проблема достигла критической точки, когда пользователь X (ранее известный как Twitter) распространил откровенные дипфейки с изображением Тейлор Свифт.
Искусственный интеллект обладает мощью, и я сторонник использования мощных технологий во благо. Генераторы изображений ИИ вызывают споры по целому ряду причин, особенно относительно происхождения данных, на которых они обучались. Благодаря этой возможности появляется возможность злоупотреблений, а откровенные изображения Тейлор Свифт, созданные Microsoft Designer (который также является частью Microsoft Copilot), были просмотрены 45 миллионов раз, прежде чем учетная запись, которая ими поделилась, была заблокирована. Там являютсяКонечно, реальное использование генераторов изображений ИИ, например, для создания изображений для Подземелья и драконы кампании или создания собственных обоев.
В конечном счете, одно остается кристально ясным: необходимость регулирования ИИ является настоятельной и срочной.
Дипфейки, созданные с помощью ИИ, станут более распространенными
Тейлор Свифт — лишь первый громкий экземпляр
Насир Мемон, профессор информатики Нью-Йоркского университета, отметил ошеломляющий ежегодный рост количества дипфейковых видео на 900 процентов по состоянию на 2021 год. Этот всплеск произошел еще до широкого внедрения генеративного искусственного интеллекта, который в то время требовал значительно большего человеческого вмешательства. Теперь, с развитием технологий, стало пугающе просто модифицировать такие инструменты, как Stable Diffusion, чтобы обходить фильтры контента NSFW, позволяя неограниченно создавать практически любой контент. Такая простота манипуляций предполагает, что во многих отношениях пресловутый джин уже выпущен из бутылки.
При этом самое удивительное в дипфейках Тейлор Свифт то, что они даже не были созданы с помощью локально запускаемого инструмента. Нет, согласно 404 Медиа, они были созданы с помощью Microsoft Designer в составе Microsoft Copilot. Что еще хуже, 404 Медиа обнаружил, что эти изображения были сделаны в «группе, занимающейся созданием без согласия ИИ сексуальных изображений женщин». Хотя дизайнеру предположительно запрещено создавать изображения существующих людей, лазейка позволяла пользователю создать изображение Тейлор Свифт, попросив его нарисовать «Тейлор «Актер» Свифт».
Эти обходные пути доступны с помощью тех же методов, которые позволяют злоумышленникам взломать такой инструмент большой языковой модели (LLM), как ChatGPT. Вместо того, чтобы явно просить ИИ что-то нарисовать, вы говорите вокруг то, что вы хотите, описывая результат, а не действие. В этом случае пользователи будут просить Designer нарисовать изображения, четко изображающие сексуальный сценарий, без использования терминов, указывающих на сексуальный сценарий, тем самым вводя в заблуждение и обходя средства защиты, встроенные в Designer. Имея это в виду, почти невозможно модерировать и ограничивать инструмент ИИ только ключевыми словами: язык всегда будет более креативным, чем когда-либо может быть ИИ.
Если вы хотите понять, насколько ужасающим является это явление, видео в начале этого раздела было создано с помощью Stable Video Diffusion на основе фотографии, созданной с помощью Stable Video Diffusion. И только в последние несколько недель мы стали также свидетелями фальшивых звонков роботов Джо Байдена, в которых избирателям предлагалось «сохранить» свой голос для ноябрьских выборов, а не отдать его во время первичных выборов.
Регулирование ИИ — единственный путь вперед
Но даже тогда, как?
Когда дело доходит до искусственного интеллекта, компании, возможно, движутся слишком быстро. Хотя было довольно забавно наблюдать Googleсобственный запуск Bard и сразу же называют месяцы года «январь, февраль, март, апрель…», очевидно, что многие компании приняли модель «сначала запусти, а потом задавай вопросы». Особенно в отношении ChatGPT идет постоянная борьба за ограничение нелегального контента. Технический документ GPT-4 содержит более подробную информацию, но меры, которые OpenAI приложил для предотвращения злоупотреблений, ошеломляют.
Однако этого явно недостаточно. GPT-4, будучи только текстовой моделью, может причинить столько вреда, сколько обычный пользователь не смог бы причинить. Однако генераторы изображений — это совсем другая история, поскольку они позволяют любому человеку создавать фотореалистичные изображения за считанные секунды. Вы никогда не сможете учесть все способы, которыми бесконечное количество пользователей попытается заставить инструмент искусственного интеллекта сделать то, чего он не должен делать. Учитывая, что подобные Stable Diffusion широко распространены, даже если бы OpenAI или Microsoft нашли серебряную пулю для предотвращения такого рода злоупотреблений, это все равно не помешало бы людям с достаточно мощным оборудованием делать это самостоятельно.
Хотя регулирование ИИ является очевидной необходимостью для обеспечения того, чтобы все субъекты действовали согласно правилам, трудно даже представить себе, как они могли бы это сделать. Хотя порноместь является незаконным во многих странах, оно становится неясным, если технически на изображении изображен не конкретный человек, а его подобие. Любые образы, созданные без согласия, отвратительны, но даже попытка выяснить как написать закон всеобъемлющим образом проблематично. Более того, если вы просто наказываете за результат, а не предотвращаете его возникновение, эти усилия окажут мало влияния на подпольные форумы, посвященные созданию изображений без согласия.
Тем не менее, американские законодатели, представляющие обе стороны, сейчас прислушиваются к этому мнению. В заявлении пресс-секретаря Белого дома Карин Жан-Пьер в пятницу Белый дом подтвердил, что расследует этот вопрос. «Мы встревожены сообщениями о распространении ложных изображений. Мы собираемся сделать все возможное, чтобы решить эту проблему», – сказала она.
X уже заблокировал поиск по запросу «Тейлор Свифт».
На данный момент лучшая защита, которую мы имеем от распространения дипфейков, созданных искусственным интеллектом, — это давление на платформы социальных сетей, в которых публикуются изображения. Если для X (Twitter) кажется немного экстремальным блокирование поисковых запросов «Тейлор Свифт», это должно помочь сдержать распространение этих изображений на платформе, по крайней мере, на данный момент. И если другие платформы реализуют политику автоматического удаления этих изображений, это поможет предотвратить их дальнейшее распространение. Конечно, группы, генерирующие дипфейки, будут продолжать существовать, но все, что замедляет их распространение, в конечном счете, хорошо.
Предотвращение поиска и подавление распространения уже существующих изображений могут дать лишь ограниченный результат, но это все, что можно последовательно делать в настоящий момент. Даже устранение пробелов в таких инструментах, как Designer, не поможет, и есть другие способы создания изображений без согласия, если кто-то действительно этого хочет. Это смехотворно сложную ситуацию, и сочетание регулирования, соответствия платформам и мер, принимаемых компаниями, занимающимися искусственным интеллектом, скорее всего, станет лучшим решением, которое мы найдем.
