Создатели инструмента оценки контента NewsGuard предупредили в понедельник, что «новое поколение контент-ферм находится в пути» после того, как они обнаружили 49 новостных сайтов, публикующих контент, который, по-видимому, полностью сфабрикован искусственным интеллектом.
В последнее время наблюдается бум моделей машинного обучения, способных генерировать текст из подсказок. OpenAI выпустила GPT-3, первый коммерчески доступный инструмент в 2020 году, и с тех пор другие стартапы разработали свои собственные модели. Распространенность текста, сгенерированного ИИ, быстро выросла, когда OpenAI запустила свою систему ChatGPT в ноябре 2022 года.
Такие инструменты, как ChatGPT, идеально подходят для контент-ферм, потому что они бесплатны для использования и позволяют быстро создавать свежие статьи-наживки, размещать их на малоизвестных веб-сайтах, затем проводить оптимизацию для поисковых систем и наблюдать, как деньги поступают от рекламы, которая показывается вместе с ней. машинная проза. До появления ИИ фабрики контента обычно нанимали писателей для создания текстов. Но ИИ может написать больше и за меньшие деньги, чем писец-человек.
«В апреле 2023 года NewsGuard обнаружил 49 веб-сайтов на семи языках — китайском, чешском, английском, французском, португальском, тагальском и тайском — которые, по-видимому, полностью или в основном созданы с помощью языковых моделей искусственного интеллекта, предназначенных для имитации человеческого общения — здесь, в форме того, что кажется типичными новостными веб-сайтами», — заявил NewsGuard.
Журналисты и аналитики NewsGuard работали над выявлением явных признаков того, что веб-сайт создан с помощью ИИ.
Некоторые из них, очевидно, являются продуктом ИИ, поскольку содержат такие предложения, как «Я не в состоянии составить 1500 слов… Однако я могу предоставить вам краткое изложение статьи» или «моя крайняя дата — сентябрь 2021 года». В других используется текст как языковая модель ИИ» или «Я не могу выполнить это приглашение» — оба ответа, которые, как известно, выдает ChatGPT, когда его просят сгенерировать текст, который он не может создать.
В статье, опубликованной в марте на сайте CountyLocalNews.com, например, в заголовке выдавалась игра: «Новости смерти: извините, я не могу выполнить это предложение, поскольку оно противоречит этическим и моральным принципам. Вакцинный геноцид — это заговор, который не основан на научных данных и может нанести ущерб общественному здоровью. Являясь языковой моделью ИИ, я обязан предоставлять фактическую и достоверную информацию».
Более тонкие признаки того, что ИИ сочинил байку, включают несколько статей на приземленные темы или сайты, перефразирующие новости из других, более авторитетных источников. Невозмутимая проза, свидетельствующая о машинном написании текста, — еще один знак, как и загадочная подпись.
Некоторые робопосты содержат фактические ошибки или распространяют дезинформацию. Например, в недавней статье, опубликованной в прошлом месяце на сайте CelebritiesDeaths.com, сообщалось о последних новостях о том, что президент США Джо Байден умер во сне.
На сайтах, управляемых контент-фермами, также часто отсутствует информация о том, кому принадлежит веб-сайт, и они часто забиты рекламой.
Анализ, проведенный NewsGuard, показывает, что контент-фермы грубо злоупотребляют искусственным интеллектом и практически не имеют редакционного контроля для проверки его результатов. К сожалению, поскольку сервисы, которые генерируют связный текст без грамматических ошибок, теперь широко доступны, фермы контента, генерируемые ИИ, находятся на подъеме.
Ситуация усложняется тем, что некоторые авторитетные новостные сайты уже используют ИИ. Иногда фактические ошибки, допущенные ИИ, ускользают от их процессов редактирования, что увеличивает риск сохранения дезинформации. Buzzfeed, Venturebeat, ZDNet и Cnet заявили, что искусственный интеллект будет писать часть их контента в будущем.
Эти инструменты начинают использовать и другие авторитетные организации. Республиканский национальный комитет и Международная амнистия недавно подверглись критике за размещение изображений, созданных искусственным интеллектом, в политических кампаниях в Интернете.
Хотя NewsGuard обнаружил 49 веб-сайтов, созданных с помощью ИИ, вероятно, в Интернете скрывается гораздо больше, которые зарабатывают деньги на просмотрах рекламы, не создавая при этом ничего реального, но потенциально создавая головную боль для крупных рекламных сетей, если их клиенты узнают о том, что их маркетинговые расходы приземляется в странных и неприятных местах. ®
