Microsoft, Adobe и другие громкие имена на этой неделе пообещали добавлять метаданные к своим изображениям, созданным с помощью искусственного интеллекта, чтобы будущие совместимые приложения помечали их как машинные с помощью специального символа.
Возможно, вы видели некоторые сообщения об этом, возможно, описанные как своего рода водяной знак ИИ. Мы присмотрелись.
Символ, описываемый как «значок прозрачности», изображает строчные буквы «cr» внутри речевого знака, напоминающего пузырь.
Он был создан Коалицией за происхождение и подлинность контента (C2PA), группой организаций из разных отраслей, включая технологии и журналистику. C2PA существует уже около пары лет; поддерживается Adobe, Arm, Intel, Microsoft и Truepic; и подробно определяет, как метаданные в изображении могут безопасно удостоверять в цифровом виде источник и историю редактирования этого изображения. Существуют альтернативные подходы, а также традиционные метаданные изображений; C2PA представляет собой подход, продвигаемый вышеупомянутыми громкими именами.
Фактически, вы можете использовать метаданные C2PA Content Credentials для любого изображения — оно не обязательно должно быть сгенерировано искусственным интеллектом. Примеры, приведенные на веб-сайте Content Credentials, были созданы с использованием инструментов Adobe Photoshop и Firefly AI и могут быть идентифицированы как таковые по их метаданным. Microsoft, Adobe и другие компании пообещали сделать так, чтобы их генераторы искусственного интеллекта в какой-то момент в будущем включали эти метаданные с криптографической подписью в свои машинные изображения. Цель состоит в том, чтобы дать людям возможность увидеть, является ли изображение модельным или созданным человеком и каким образом.
Например, Microsoft заявила, что изображения, созданные с помощью Bing Image Creator и чат-бота Bing AI, в какой-то момент будут содержать эти метаданные.
А теперь самое сложное, если предположить, что спецификация безопасна и надежна. Одно дело хранить эти метаданные в изображении. Как пользователь узнает об этом, не копаясь в содержимом файла?
Что ж, вам понадобится совместимое приложение, которое понимает метаданные Content Credentials. Если приложение распознает эти данные в файле, оно должно наложить символ «cr» на изображение в верхнем углу. Когда вы нажимаете на этот символ, должен появиться виджет с описанием источника изображения и других деталей из метаданных учетных данных контента — например, если оно было создано с помощью Bing или Photoshop.
Таким образом люди могут легко проверить происхождение щелчка. Но, конечно, если файл открыт в приложении, которое не поддерживает учетные данные контента, символ не отображается: приложение не поймет данные и не отобразит символ.
Вы можете понять, что мы имеем в виду, на вышеупомянутом веб-сайте Content Credentials. Откройте его и прокрутите вниз до примера бабочки, созданного ИИ. Веб-страница моделирует, как должно выглядеть это изображение в приложении, которое может анализировать метаданные изображения: символ отображается в верхнем углу, и когда вы щелкаете или касаетесь его, появляется метка, говорящая, что оно сгенерировано ИИ. На странице картинка выглядит так, без открытой метки:
Если вы щелкнете по нему правой кнопкой мыши на веб-сайте Content Credentials и сохраните это изображение бабочки на диск, а затем откроете его сегодня в чем-то вроде Chrome, оно будет выглядеть так:
Простое изображение, без символов. Chrome не знает о метаданных учетных данных контента, которые присутствуют в снимке, созданном ИИ, и в любом случае не имеет значка для наложения. Если вы перейдете на страницу проверки учетных данных контента и загрузите загруженное изображение бабочки, оно сообщит вам, что оно было создано с помощью пакета AI Adobe Firefly 1.0.
Эта технология – а ее спецификации подробные и впечатляющие – основана на том, что приложения понимают и поддерживают метаданные, иначе никакой символ не может или не будет отображаться. Кроме того, кто-то может удалить метаданные, или экспортировать файл в другой формат без метаданных, или сделать снимок экрана из приложения, которое не накладывает символ, а затем распространить это изображение без метаданных. Если это разобранное изображение позже откроется в приложении, которое поддерживает учетные данные контента, символ не будет отображаться.
Это означает, что вам не только нужны приложения, социальные сети, генераторы и т. д., которые могут добавлять и читать данные учетных данных контента, но вам также нужно, чтобы люди знали об этом значке, чтобы они могли его искать. Если они получают или видят изображение, на котором нет символа «Учетные данные контента», они могут быть склонны не доверять ему. Для этого потребуется огромная узнаваемость бренда.
Тем не менее, Adobe сообщила нам, что у нее есть облако Content Credentials, и оно, похоже, работает следующим образом: вы загружаете метаданные ваших файлов изображений в облако Adobe; Если кто-то позже поделится одним из ваших файлов без идентифицирующих его метаданных, то, что бы они ни использовали для распространения снимка, может запустить изображение в облаке Adobe и восстановить метаданные, если есть визуальное совпадение.
Подумайте: что-то вроде Google обратный поиск изображений и возвращает исходные метаданные. Таким образом, если кто-то попытается опубликовать ваше изображение в Интернете или через приложение, и все встанет на свои места, происхождение изображения должно быть ясно, даже если метаданные были потеряны до публикации — они будут восстановлены из учетных данных контента. облако.
«Как только цифровой контент подписывается с помощью Content Credentials (на платформе, которая использует открытые стандарты C2PA и Content Credentials), прикрепляются защищенные от несанкционированного доступа метаданные, поэтому они перемещаются вместе с контентом, куда бы он ни направлялся», — сообщил представитель Adobe. Регистр.
«Даже если эта информация была злонамеренно или случайно удалена на любом этапе жизненного цикла контента, ее можно восстановить через Content Credentials Cloud».
По крайней мере, Adobe об этом подумала. Итак, теперь нам нужно, чтобы люди знали об этом символе; для своих приложений для поддержки символа; для художников и генераторов предоставить метаданные в облако Adobe; а онлайн-издателям, социальным сетям и другим хостам контента — подключиться к облаку Adobe и восстановить любые недостающие метаданные учетных данных контента, чтобы можно было идентифицировать изображения без метаданных. Уф!
Мы также предполагаем, что вы можете использовать совместимое средство просмотра метаданных или указанный выше инструмент проверки учетных данных контента, чтобы проверить изображение самостоятельно, если у вас еще нет под рукой приложения для изображений, которое могло бы с этим справиться.
«Все изображения, созданные искусственным интеллектом в Bing Image Creator, идентифицируются с использованием учетных данных контента», — сообщил представитель Microsoft. Регистр. «Если рядом с изображением отображается «Учетные данные контента», пользователи могут быстро подтвердить время и дату исходного изображения с помощью невидимого цифрового водяного знака.
«Этот процесс происходит автоматически во время процесса создания и основан на технических требованиях C2PA. Значок служит для потребителей простым способом распознавания контента. Мы считаем, что для Bing Image Creator значок появится до конца года. и появляются рядом со словами «Учетные данные контента».
Ожидается, что другие организации, такие как Publicis Groupe, французская PR- и рекламная компания, представят, как они будут использовать метаданные Content Credentials с Adobe в будущем. Тем временем производители камер Leica Camera и Nikon продемонстрируют, как эта спецификация будет использоваться в будущем оборудовании для включения оригинала изображений в снимки фотографов.
Хорошие намерения
Коалиция считает, что все это может помочь в борьбе с дипфейками, создаваемыми искусственным интеллектом, которые распространяют дезинформацию с целью обмануть пользователей сети. Этого можно было бы достичь, если бы, по нашему мнению, значок «cr» стал таким же повсеместным, как и символ авторского права.
По мнению организации, метаданные могут, по крайней мере, облегчить брендам и предприятиям прозрачность использования синтетических изображений в рекламных и маркетинговых кампаниях, если указанные предприятия готовы раскрыть это. Энди Парсонс, старший директор Инициативы по обеспечению подлинности контента (CAI) в Adobe, сказал, что сопровождающий информационный виджет действует для пользователей как «цифровая этикетка питания».
«На протяжении всей истории визуальная иконография выступала в качестве мощного средства коммуникации и культуры», — сказал он.
«Мы невероятно воодушевлены потенциалом официального «значка прозрачности» Content Credentials стать универсальным стандартом и ожиданиями для всей онлайн-культуры, помогая сделать доверие фундаментальным принципом в этом новом цифровом мире. Мы с нетерпением ждем продолжения внедрения Content Credentials. и новый значок для наших продуктов и решений Adobe».
Хотя, возможно, это шаг в правильном направлении, значок еще далек от того, чтобы стать универсальным решением для аутентификации контента в Интернете и отделения ИИ от подделок. Принятие пока что просто обещано и ограничено поддержкой со стороны нескольких, хотя и очень громких имен. И, как мы уже говорили, для его поддержки требуется гораздо больше платформ, включая разработчиков генеративного искусственного интеллекта, социальные сети, разработчиков приложений и издателей, чтобы он был эффективным. ®
