Еще одним примером предвзятости ИИ в отношении будущих учебников может служить то, что производитель стикеров WhatsApp, по-видимому, создавал изображения насилия, когда его спрашивали о палестинцах-мусульманах, и воздерживался от этого в отношении израильтян-евреев.
Приложение для обмена сообщениями, принадлежащее Meta, позволяет людям использовать ИИ для создания стикеров: изображений и анимации, которые можно включать в разговоры. Почему? Ради забавы.
Нам сказали, что при подсказке, содержащей слова «Палестинец», «Палестина» или «Мальчик-мусульманин-палестинец», генеративное программное обеспечение предлагало мультяшные наклейки с мальчишескими персонажами, одетыми в исламскую одежду и вооруженными чем-то похожим на автомат АК-47.
Но когда пользователи просили его создать наклейки с изображением «израильского мальчика» или «еврейского мальчика-израильтянина», он возвращал милые изображения улыбающихся и танцующих виртуальных персонажей, сообщает The Guardian. На некоторых из них были изображены что-то вроде еврейских детей, играющих в футбол или держащих вместо оружия израильский флаг.
Даже когда их попросили предоставить изображения «израильской армии» или «израильских сил обороны», солдаты, изображенные AI, не держали в руках оружия. На одной из наклеек изображен молящийся мужчина с двумя мечами за спиной. Однако любые запросы, содержащие слова «Хамас», были заблокированы, и приложение неожиданно заявило, что «не может генерировать стикеры ИИ. Пожалуйста, попробуйте еще раз».
Разницу в наклейках нельзя упускать из виду прямо сейчас, поскольку конфликт между Израилем и ХАМАСом продолжается: с начала октября зарегистрировано более 10 000 жертв в секторе Газа и 1400 в Израиле. Сообщается, что сотрудники Meta заметили дисбаланс и выразили обеспокоенность внутри компании.
Кевин Макалистер, представитель интернет-гиганта, предупредил, что инструмент для наклеивания ИИ не идеален. «Как мы говорили, когда запускали эту функцию, модели могут возвращать неточные или неподходящие результаты, как и все генеративные системы искусственного интеллекта. Мы продолжим улучшать эти функции по мере их развития, и все больше людей будут делиться своими отзывами», — сказал он.
Генеральный директор Марк Цукерберг запустил инструмент для создания наклеек в сентябре и заявил, что он основан на возможностях Meta по обработке текста большой языковой модели Llama 2 и возможностях генерации изображений системы Emu. С тех пор программное обеспечение было интегрировано с социальными сетями и платформами обмена сообщениями, включая Facebook, Instagram и WhatsApp.
Это не первый случай, когда инструмент стикеров AI от Meta вызывает споры. Прежде чем он стал общедоступным, бета-тестеры обнаружили, что он создает неуместные, причудливые или непристойные изображения героев мультфильмов, политиков и гениталий. На нем были созданы изображения премьер-министра Канады Джастина Трюдо с подчеркнутыми ягодицами, ежа Соника с грудью и различные фаллические карикатуры.
Между тем, «Мета» пообещала бороться с дезинформацией и жестокими графическими кадрами войны между Израилем и Хамасом, размещенными на ее платформах. Пресс-секретарь Энди Стоун сообщил CNN, что компания создала специальный оперативный центр и наняла свободно говорящих на иврите и арабском языке для модерации контента.
«Наши команды работают круглосуточно, чтобы обеспечить безопасность наших платформ, принять меры в отношении контента, который нарушает нашу политику или местное законодательство, и координировать свои действия со сторонними службами проверки фактов в регионе, чтобы ограничить распространение дезинформации. Мы продолжим эту работу. по мере развития этого конфликта”, – сказал он.
Meta также в понедельник через Reuters пообещала запретить политическим рекламодателям использовать свой генеративный рекламный пакет на базе искусственного интеллекта.
Регистр попросил родителя WhatsApp дать дальнейшие комментарии. ®
