Коротко об ИИ Snap находится в споре с Управлением комиссара по информации Великобритании (ICO) из-за рисков конфиденциальности в My AI, ее чат-боте, предназначенном для подростков.
Регулирующие органы направили Snap предварительное уведомление о принудительном исполнении, в котором описывались способы, которыми данные, генерируемые молодыми пользователями, не кажутся должным образом защищенными, и дали компании возможность отреагировать.
«Предварительные результаты нашего расследования свидетельствуют о тревожной неспособности Snap адекватно выявить и оценить риски конфиденциальности для детей и других пользователей перед запуском My AI», — заявил в своем заявлении комиссар по информации Джон Эдвардс.
«Мы ясно дали понять, что организации должны учитывать риски, связанные с ИИ, наряду с преимуществами. Сегодняшнее предварительное уведомление о правоприменении показывает, что мы примем меры для защиты прав потребителей в Великобритании на неприкосновенность частной жизни».
ICO примет решение о принятии окончательного уведомления о принудительном исполнении, которое может заставить Snap отключить My AI в Великобритании и прекратить сбор любых данных от пользователей приложения Snapchat. В заявлении для TechCrunch представитель компании заявил, что компания «внимательно изучает» уведомление.
«Как и в случае с ICO, мы стремимся защищать конфиденциальность наших пользователей. В соответствии с нашим стандартным подходом к разработке продуктов, My AI прошел тщательную юридическую проверку и проверку конфиденциальности, прежде чем стать общедоступным. Мы продолжим конструктивно работать с ICO, чтобы убедиться, что их устраивают наши процедуры оценки рисков», — говорится в сообщении.
4channers используют Bing AI для создания и распространения пропаганды троллей в Интернете
Пользователи сети на скандальном интернет-форуме 4chan поощряют друг друга создавать и публиковать в Интернете оскорбительные мемы об искусственном интеллекте.
Пользователи 4chan делятся руководствами о том, как создавать ложные изображения, советуют другим создавать «смешные» и «провокационные» сообщения, как впервые сообщил 404. Самый простой метод, который они предложили, — использовать новую функцию Bing DALL-E 3. «Большинство людей используют DALL-E 3 по ссылке ниже», — гласило одно сообщение, в котором этот инструмент описывался как «БЫСТРЫЙ МЕТОД».
Неудивительно, что интернет-тролли создали всевозможные нелепые и оскорбительные изображения, изображающие человека, похожего на еврея, летящего в башни-близнецы, чернокожих иммигрантов-мужчин, преследующих белую женщину с ножом, и многое другое.
На этой неделе Microsoft выпустила DALL-E 3, и злоупотребления со стороны пользователей 4chan показывают, что возможности модерации контента этого инструмента не так эффективны, как хотелось бы. OpenAI обвинила в этом Microsoft и сообщила новостному изданию Bellingcat, занимающемуся расследованиями, в заявлении: «Microsoft реализует свои собственные меры по снижению безопасности для DALL-E 3».
Представитель Microsoft заявил: «У нас есть большие команды, работающие над разработкой инструментов, методов и систем безопасности, которые соответствуют нашим принципам ответственного ИИ. Как и любую новую технологию, некоторые пытаются использовать ее непреднамеренно. именно поэтому мы внедряем ряд ограждений и фильтров, чтобы сделать Bing Image Creator приятным и полезным опытом для пользователей».
Озорные стикеры Meta, созданные искусственным интеллектом
Новая функция Meta, позволяющая пользователям Facebook создавать свои собственные стикеры с генеративным искусственным интеллектом, вызвала на этой неделе удивление.
Некоторые первые тестировщики с удовольствием размещали в Интернете свои неуместные, причудливые или непристойные творения ИИ, в том числе героев мультфильмов с грудьПремьер-министр Канады Джастин Трюдо задница, мужские гениталиии многое другое, сообщает The Verge.
Наклейки созданы путем объединения возможностей большой языковой модели Llama 2 компании Meta и ее системы генерации изображений Emu. Пользователи могут ввести текстовое описание изображения, которое они хотят создать. Мета считает, что это будет интересно пользователям, которые затем смогут поделиться своими стикерами с друзьями или опубликовать их в социальных сетях.
Неудивительно, что новая функция не идеальна. Контент-фильтры, направленные на предотвращение создания пользователями сети потенциально оскорбительных изображений с использованием ИИ, не являются надежными; их легко обойти, если грамотно использовать подсказки.
К счастью, инструмент для создания стикеров с искусственным интеллектом, который появится в Facebook, Instagram и Whatsapp, пока еще не доступен. У Meta есть время исправить некоторые недостатки своего продукта, прежде чем он будет полностью опубликован в Интернете.
GoogleВиртуальный помощник Барда появится на смартфонах
Google запускает виртуального помощника с искусственным интеллектом на базе своего чат-бота Bard в виде приложения для устройств iOS и Android.
«За последние семь лет Google Ассистент помог сотням миллионов людей выполнять задачи естественным, диалоговым способом — устанавливать будильники, запрашивать обновления погоды или совершать быстрые звонки — и все это с помощью простого «Привет!» Google'”, – говорится в сообщении в блоге.
«Теперь генеративный искусственный интеллект создает новые возможности для создания более интуитивно понятного, интеллектуального и персонализированного цифрового помощника. Тот, который выходит за рамки голоса, понимает и адаптируется к вам, а также решает личные задачи по-новому».
Приложение, получившее название Assistant with Bard, сочетает в себе генеративные способности ИИ Барда с Google Возможности помощника для выполнения действий. Вместе он может выполнять больше задач, чем, например, просто совершать телефонные звонки или проигрывать определенную песню. Google предполагает, что его будут использовать, чтобы помочь людям планировать поездки, искать электронную почту, создавать списки покупок или отправлять текстовые сообщения.
Пользователи смогут взаимодействовать с Assistant with Bard разными способами, включая голос, текст и изображения. Он также будет интегрироваться с другими Google приложения, такие как Gmail и Документы, поэтому он может выполнять задачи в этих доменах, например написание электронных писем или составление документов. Google сказал, что Assistant with Bard все еще находится на экспериментальной стадии и сейчас тестируется, но ожидается, что он будет развернут в течение следующих нескольких месяцев. ®
