Наблюдательный совет Meta расследует политику гиганта социальных сетей в отношении дипфейкового контента после того, как Facebook решил не удалять фальшивое видео, в котором президент США Джо Байден ложно назывался педофилом.
Фальшивое видео адаптировало кадры, на которых Байден размещает наклейку с надписью «Я проголосовал» над грудью своей внучки Натали Байден во время промежуточных выборов в Америке в 2022 году.
Семисекундное видео, опубликованное в мае этого года, было подделано и зациклено, чтобы создать впечатление, будто президент неуместно прикасался к своей внучке, а на заднем плане играл текст NSFW из песни “Simon Says” рэпера Pharoahe Monch. В подписи к видео ошибочно утверждалось, что Байден является «больным педофилом», а люди, голосовавшие за него на выборах, были «психически нездоровы».
Несмотря на жалобу пользователя, модераторы Меты не удалили клип. По данным надзорного совета, пользователь Facebook, написавший сообщение, обжаловал решение сохранить видео.
Мета снова решила не удалять фейковое видео, которое, по общему признанию, по состоянию на прошлый месяц было просмотрено менее 30 раз, поскольку оно не было создано с использованием искусственного интеллекта и не выдавалось за подлинное, а также не содержало никаких манипуляций с речью Байдена, чтобы заставить его выглядеть так, как будто он сказал то, чего никогда не произносил.
В конечном итоге заявитель поднял этот вопрос перед наблюдательным советом — независимой группой экспертов, нанятой Meta для проверки политики модерации контента.
«Правление выбрало это дело, чтобы оценить, адекватно ли политика Меты распространяется на измененные видео, которые могут ввести людей в заблуждение, заставив поверить в то, что политики предприняли действия, выходящие за рамки речи, которых они не совершали», — говорится в заявлении группы.
«Этот случай относится к выборам совета директоров и гражданскому пространству, а также к автоматическому обеспечению соблюдения политики и определению приоритетов контента».
Манипулируемая медиа-политика Facebook гласит, что пользователи не должны публиковать синтетические видеоролики, созданные с использованием «искусственного интеллекта или машинного обучения, включая методы глубокого обучения (например, технический дипфейк), которые объединяют, комбинируют, заменяют и/или накладывают контент на видео, создавая видео, которое выглядит аутентичным», а также контент, который «вероятно, мог бы ввести в заблуждение обычного человека, заставив его поверить, что участник видео произнес слова, которых он не говорил».
Рассматриваемое фейковое видео Байдена не нарушило ни одно из правил, и поэтому ему было разрешено оставаться в сети. Оно не было создано машиной и не вложено словами в уста президента.
Как бы то ни было, заявленные усилия Меты по борьбе с политической дезинформацией и ее сокращению могут быть ослаблены, если такому контенту будет позволено распространяться. В правилах может возникнуть дисбаланс, если вышеуказанному видео будет разрешено оставаться в силе, и все потому, что оно было неуклюже отредактировано человеком, в то время как существуют жесткие меры в отношении дипфейков. Если бы ИИ сделал подделанное видео, оно бы упало? Но если это сделано человеком, то это не обязательно?
Таким образом, правление приглашает общественность прокомментировать и высказать идеи по следующим вопросам в свете этого дела:
Ожидается, что, вооружившись этой информацией, комиссия рассмотрит политику и внесет предложения в Meta – хотя из этого может получиться не так много.
«В рамках своих решений правление может давать Meta рекомендации по политике. Хотя рекомендации не являются обязательными, Meta должна ответить на них в течение 60 дней», — признала комиссия. «Таким образом, совет приветствует публичные комментарии, предлагающие рекомендации, имеющие отношение к этому делу».
Тем временем эксперты и законодатели все больше обеспокоены дипфейками, манипулирующими политическим дискурсом в преддверии предстоящих президентских выборов в США в 2024 году.
На прошлой неделе сенатор США Эми Клобучар (демократ от Миннесоты) и представитель Палаты представителей Иветт Кларк (демократ от штата Нью-Йорк) направили письма генеральному директору Meta Марку Цукербергу и генеральному директору X Линде Яккарино с просьбой разъяснить их политику в отношении контента в отношении политических дипфейков.
«Поскольку выборы 2024 года быстро приближаются, отсутствие прозрачности в отношении такого типа контента в политической рекламе может привести к опасному потоку связанной с выборами дезинформации и дезинформации на ваших платформах, куда избиратели часто обращаются, чтобы узнать о кандидатах и проблемах», — заявил Об этом говорится в письме, сообщает AP.
Регистр попросил Мету прокомментировать. ®
