Организация Объединенных Наций забила тревогу в связи с тем, что дипфейки, созданные искусственным интеллектом, используются для распространения ненависти и дезинформации в социальных сетях. В опубликованном в понедельник отчете «Целостность информации на цифровых платформах» глобальная организация подчеркнула необходимость ответственного использования ИИ.
«Несмотря на почти невообразимый потенциал для решения глобальных проблем, существуют серьезные и неотложные опасения по поводу не менее мощного потенциала недавних достижений в области искусственного интеллекта, включая генераторы изображений и подделки видео, которые угрожают целостности информации», — говорится в докладе ООН.
Информационная целостность относится к точности, последовательности и надежности информации, которой, по мнению Организации Объединенных Наций, угрожают дезинформация, дезинформация и разжигание ненависти.
«Эти риски еще больше усилились из-за быстрого развития технологий, таких как генеративный искусственный интеллект», — написал Генеральный секретарь ООН Гутерриш во введении к докладу. «Стало ясно, что обычный бизнес невозможен».
ИИ-дипфейки жертв детских убийств — худшее, что есть в Интернете
Генеративный ИИ — это тип программы, обычно представленный в виде чат-бота, который способен генерировать текст, изображения или другие медиафайлы в ответ на подсказки.
В отчете Организации Объединенных Наций выражается обеспокоенность по поводу влияния дипфейков и дезинформации, создаваемой искусственным интеллектом, в зонах конфликтов.
ООН отмечает, что использование языка ненависти часто рассматривается как предвестник ужасных преступлений, таких как геноцид. В докладе также подчеркивается, что Конвенция 1948 года о предупреждении преступления геноцида и наказании за него запрещает любое прямое или публичное подстрекательство, которое может привести к геноциду.
Распространение ненависти и лжи в цифровом пространстве наносит серьезный глобальный ущерб.
Эта явная и реальная глобальная угроза требует четких и скоординированных глобальных действий.
– @antonioguterres представляет свой новый отчет о целостности информации на цифровых платформах. https://t.co/atXRvwOwXv pic.twitter.com/i5MjAkWSNy
— Организация Объединенных Наций (@UN) 12 июня 2023 г.
Хотя в отчете ООН не приводится конкретных примеров, внимание обращается на недавние случаи использования генеративного ИИ для создания, в некоторых случаях, убедительно вводящего в заблуждение контента и изображений.
В марте сгенерированное искусственным интеллектом изображение арестованного бывшего президента Дональда Трампа стало вирусным после того, как оно было опубликовано в Twitter основателем и креативным директором Bellingcat Элиотом Хиггинсом. В том же месяце Midjourney, компания, разработавшая одноименный генератор искусственного интеллекта для преобразования текста в изображение, прекратила выпуск бесплатной пробной версии из-за широко распространенных злоупотреблений.
Может ли ИИ спасти журналистику от фейковых новостей? Пока нет, но эти инструменты могут помочь
«Все заинтересованные стороны должны принять срочные и незамедлительные меры для обеспечения безопасного, надежного, ответственного, этического и соответствующего правам человека использования искусственного интеллекта и устранить последствия последних достижений в этой области для распространения дезинформации и разжигания ненависти». заявила ООН.
В отчете содержится призыв к владельцам цифровых платформ инвестировать в системы модерации контента, которые используют как человеческий, так и искусственный интеллект для всех языков, используемых в странах, в которых они работают, и сделать отчетность о контенте прозрачной.
Заявив, что эра философии Силиконовой долины «двигайся быстро и ломай вещи» должна закончиться, международная организация заявила, что конфиденциальность пользователей, безопасность и прозрачность имеют важное значение и должны быть встроены в новые технологии с самого начала.
Гутерриш указал на предстоящий Саммит будущего в 2024 году как на возможность договориться о многосторонних решениях.
«Вызовы, с которыми мы сталкиваемся, могут быть решены только посредством более тесного международного сотрудничества», — сказал генеральный секретарь Гутерриш.
Вознаграждение до $580 за регистрацию на Bybit!
Бонус до 4000$ за пополнение на Bitget!
