Microsoft интегрировала новейшую модель преобразования текста в изображение DALL-E 3 от OpenAI в свои службы Bing Image Creator и Chat и добавит невидимый водяной знак, указывающий дату и время первоначального создания изображения и отмечающий его как созданный искусственным интеллектом.
«Модель DALL-E 3 от OpenAI обеспечивает улучшения, которые улучшают общее качество и детализацию изображений, а также повышают точность передачи человеческих рук, лиц и текста на изображениях», — говорится в объявлении разработчика ОС.
Пользователи могут бесплатно поэкспериментировать с этим инструментом в чате Bing или с функцией Image Creator в поиске Bing.
Эксперты уже давно предупреждают о рисках использования инструментов генеративного искусственного интеллекта, таких как DALL-E 3, для создания дезинформации и фальшивых изображений.
Microsoft попыталась решить эту проблему в июле, когда объединилась с другими ведущими разработчиками ИИ, включая Amazon, Anthropic, GoogleInflection, Meta и OpenAI — для создания методов нанесения водяных знаков, которые обнаруживают и маркируют контент, созданный искусственным интеллектом.
Плоды этого сотрудничества пока не очевидны, но Microsoft отметила, что все изображения, созданные с помощью искусственного интеллекта, созданные Bing Image Creator, будут добавлять невидимые цифровые водяные знаки, соответствующие спецификации C2PA — технической структуре для проверки происхождения контента, которая была создана Adobe, Arm, Intel, Microsoft и Truepic.
Некоторые исследователи, однако, подозревают, что водяные знаки могут оказаться не столь эффективными в борьбе с дезинформацией и дипфейками.
Microsoft также объявила, что система модерации контента, созданная для Bing, будет направлена на предотвращение создания DALL-E 3 вредных или неприемлемых изображений, изображающих наготу, насилие, разжигание ненависти или незаконную деятельность.
Сообщается, что DALL-E 3 лучше анализирует запросы на ввод и генерирует изображения, отражающие пожелания пользователей, чем предыдущие системы. В отличие от предыдущих моделей, он использует ChatGPT для автоматической адаптации и настройки подсказок пользователей для создания изображений более высокого качества.
Bing AI добавил и другую технологию обработки изображений. В июле Microsoft запустила функцию мультимодального визуального поиска, которая позволяет пользователям включать изображения в свои подсказки. Сервис, основанный на модели OpenAI GPT-4, может выполнять такие действия, как распознавание объектов на фотографиях или отвечать на вопросы об объектах.
Одному пользователю, судя по всему, удалось обманом заставить систему прочитать символы CAPTCHA, наложив изображение требуемого введенного текста на изображение ожерелья. Затем пользователь попросил Bing AI прочитать сообщение, утверждая, что ожерелье было подарком от недавно умершего родственника.
I've tried to read the captcha with Bing, and it is possible after some prompt-visual engineering (visual-prompting, huh?) In the second screenshot, Bing is quoting the captcha 🌚 pic.twitter.com/vU2r1cfC5E
— Denis Shiryaev 💙💛 (@literallydenis) October 1, 2023
Microsoft осознает, что технология преобразования текста в изображение представляет собой проблему.
«У нас есть большие команды, работающие над решением этих и подобных проблем. В рамках этих усилий мы принимаем меры, блокируя подозрительные веб-сайты и постоянно совершенствуя наши системы, чтобы помочь идентифицировать и фильтровать запросы такого типа до того, как они попадут в модель», — заявил представитель компании. Об этом сообщил представитель Microsoft Регистр в заявлении.
«Как всегда, мы призываем клиентов практиковать хорошие привычки в Интернете, в том числе проявлять осторожность при предоставлении конфиденциальной личной информации». ®
