YouTube вводит ряд правил в отношении видеороликов, созданных искусственным интеллектом, в надежде обуздать: распространение фальшивых материалов, замаскированных под законные; дипфейки, из-за которых кажется, что люди говорят или делают то, чего они никогда не делали; и треки, копирующие работы артистов, защищенные авторским правом.
Нам сообщили, что эта бюрократическая волокита будет введена в действие в ближайшие месяцы и будет применяться к материалам, загружаемым пользователями.
В частности, GoogleПринадлежащий гиганту по обмену видео потребует от создателей контента раскрывать, содержат ли их видео правдоподобные синтетические кадры вымышленных событий, включая изображения, созданные искусственным интеллектом, или дипфейки, которые вкладывают слова в уста людей. В таких случаях к описанию видео будет добавлена метка, сообщающая, что контент был изменен или создан в цифровом формате, а к самому видеопроигрывателю будет добавлено более заметное примечание, если контент является особенно деликатным. Нарушение правил приведет к удалению контента и наказанию аккаунтов.
Вот формулировка YouTube:
Фейковые кадры, которые могут ввести зрителей в заблуждение относительно таких важных тем, как выборы, конфликты и насилие, проблемы общественного здравоохранения или популярные деятели, также должны быть помечены особо. «Авторы, которые постоянно предпочитают не раскрывать эту информацию, могут быть подвергнуты удалению контента, отстранению от партнерской программы YouTube или другим штрафам», — предупредили сегодня вице-президенты по продуктам YouTube Дженнифер Фланнери О’Коннор и Эмили Моксли.
Стандартные правила модерации контента видеосайта также по-прежнему применяются, когда речь идет о медиафайлах, созданных искусственным интеллектом. Ярлык, раскрывающий сфабрикованный контент, не защитит видео от удаления, если оно нарушает правила сообщества YT. Контент, который является особенно вульгарным или содержит вредные изображения или опасную и запрещенную информацию, все равно будет удален, даже если он является поддельным.
Бизнес также сообщил, что у него есть десятки тысяч модераторов по всему миру, которые контролируют платформу с помощью классификаторов на базе искусственного интеллекта; тот Google Операция заявила, что генеративный искусственный интеллект, подобный тому, который создает дипфейки, помог обучить и улучшить эти классификаторы. Предположительно, эти нейронные сети станут лучше обнаруживать нераскрытые фальшивые материалы и сообщать о них модераторам.
«YouTube всегда использовал сочетание людей и технологий машинного обучения для обеспечения соблюдения наших Принципов сообщества. Google работающие по всему миру», — заявили руководители YouTube. «В наших системах классификаторы искусственного интеллекта помогают обнаруживать потенциально противозаконный контент в большом масштабе, а рецензенты работают над подтверждением того, действительно ли контент пересек границы политики».
По соображениям безопасности и/или конфиденциальности люди смогут запросить удаление видео, если они содержат изображения или аудио, созданные искусственным интеллектом, имитирующие их сходство. Модераторы контента решают, удалять ли материал, в зависимости от того, можно ли «однозначно идентифицировать» лицо, подающее жалобу. Однако дипфейки, изображающие общественных деятелей в сатирических или пародийных целях, скорее всего, будут отмечены как безобидные.
Однако созданная искусственным интеллектом музыка, копирующая голос и звук исполнителя, может быть удалена. YouTube представит новую функцию, которая, очевидно, облегчит создателям и звукозаписывающим компаниям, сотрудничающим с бизнесом Alphabet, возможность отмечать любые видео, которые потенциально могут нарушать права на музыку, защищенную авторским правом.
«При определении того, следует ли удовлетворить запрос на удаление, мы будем учитывать такие факторы, как то, является ли контент предметом новостных репортажей, анализа или критики синтетического вокала», — заявили Фланнери О’Коннор и Моксли.
Генеративный ИИ быстро совершенствуется. Сложность и количество доступных инструментов для создания фальшивого, реалистично выглядящего контента означают, что такие организации, как YouTube, скорее всего, будут наводнены средствами массовой информации, созданными искусственным интеллектом. На данный момент компания считает, что лучшая тактика, позволяющая сбалансировать творчество и модерацию контента, — это побудить пользователей YouTube открыто говорить о том, были ли их видео изменены в цифровом формате или нет.
YouTube заявил, что представит вышеупомянутые функции для поддержки своей новой политики в ближайшие месяцы и в 2024 году.
