Два исследователя из Стэнфорда попали в кроличью нору LinkedIn, обнаружив внизу более 1000 поддельных профилей с лицами, сгенерированными искусственным интеллектом.
Рене ДиРеста и Джош Гольдштейн из Стэнфордской интернет-обсерватории сделали это открытие после того, как ДиРеста получил сообщение от профиля, который, как сообщается, принадлежит «Кинану Рэмси». На первый взгляд это выглядело как обычная реклама программного обеспечения, но при дальнейшем расследовании стало очевидно, что Рэмси был полностью вымышленным человеком.
Хотя изображение выглядело как стандартный корпоративный снимок головы, оно также содержало несколько красных флажков, указывающих на то, что это лицо, сгенерированное искусственным интеллектом, подобное тем, которые генерируются такими веб-сайтами, как This Person Does Not Exist. ДиРеста была особенно предупреждена выравниванием глаз Рэмси (мертвый центр фотографии), ее серьгами (на ней была только одна) и ее волосами, некоторые части которых размыты на заднем плане.
Это не первый раз, когда группа ботов с искусственным интеллектом выходит в социальные сети. В 2021 году несколько учетных записей, якобы принадлежащих сотрудникам склада Amazon, были заблокированы в Twitter, и многие из их изображений профиля, по-видимому, были получены из того же типа ИИ, что и последние изображения LinkedIn. Amazon отрицает какую-либо связь или ответственность за профили и их твиты.
Инцидент с Твиттером отличается и, возможно, еще хуже: вместо того, чтобы пытаться совершить продажу менее чем прямолинейно, боты Твиттера из Amazon и других источников обычно распространяют дезинформацию и пропаганду как для корпораций, так и для правительств.
«Это не история о ложной или дезинформации, а скорее пересечение довольно приземленного варианта использования технологии ИИ в бизнесе и вытекающие из этого вопросы этики и ожиданий. Каковы наши предположения, когда мы сталкиваемся с другими в социальных сетях? Какие действия пересекаются линия на манипуляцию», ДиРестра сказал в Твиттере.
NPR изучил заявления ДиРестры и Гольдштейна и обнаружил более 70 компаний, связанных с поддельными профилями. Несколько компаний заявили, что наняли сторонних маркетологов, но выразили удивление, когда узнали о поддельных профилях LinkedIn. Предприятия также отказались санкционировать кампании.
Учетные записи, подобные учетным записям Рэмси, используются компаниями для презентации программного обеспечения потенциальным новым клиентам, и всякий раз, когда цель отвечает, они перенаправляются к реальному человеку. По данным NPR, с помощью этой техники компании могут значительно расширить свое присутствие, не нанимая новых людей.
Что на лице ИИ?
Поддельные лица, используемые Рэмси и бесчисленной армией подобных ей ботов, генерируются общими состязательными сетями, или GAN. GAN использует двух ботов, один для создания поддельных лиц, а другой для их обнаружения, чтобы получить наилучшие возможные результаты: только когда бот обнаружения не может отличить настоящее лицо от поддельного, изображение передается.
Может быть сложно отличить сгенерированное GAN лицо от реального, но есть некоторые явные признаки:
- Фон часто нечеткий, размытый или неправильный.
- Одежда часто кажется неправильной, воротники несовместимы, линии нечеткие и другие подобные артефакты.
- Зубы могут казаться неровными или сливаться с губами.
- Волосы, кажется, имеют лишние разлетающиеся волосы, которые могут исчезать и появляться снова, в то время как более длинные волосы могут выглядеть неточно.
- Отражения и освещение могут быть нерегулярными
- Глюки в коже
- Отсутствующие или нестандартные аксессуары
- Глаза человека находятся точно по центру изображения
Недавнее исследование показало, что средний человек имеет не больше шансов, чем шанс отличить настоящее лицо от созданного ИИ. Думаешь, ты можешь лучше? Проверьте себя на этом сайте. ®
