Во вторник, Google объявила о планах внедрения технологии аутентификации контента во всех своих продуктах, чтобы помочь пользователям различать изображения, созданные человеком, и изображения, созданные искусственным интеллектом. В течение нескольких предстоящих месяцев технологический гигант интегрирует стандарт Coalition for Content Provenance and Authenticity (C2PA), систему, предназначенную для отслеживания происхождения и истории редактирования цифрового контента, в свои поисковые, рекламные и, возможно, YouTube-сервисы. Однако остается открытым вопрос, сможет ли технологическое решение полностью решить фундаментально древнюю социальную проблему доверия к записанным медиа, созданным незнакомцами.

Группа технологических компаний создала систему C2PA в 2019 году в попытке бороться с вводящими в заблуждение реалистичными синтетическими медиа в Интернете. Поскольку контент, созданный ИИ, становится все более распространенным и реалистичным, эксперты обеспокоены тем, что пользователям может быть сложно определить подлинность изображений, с которыми они сталкиваются. Стандарт C2PA создает цифровой след для контента, подкрепленный онлайн-подписывающим органом, который включает метаданные о том, где изображения возникли и как они были изменены.

Google включит этот стандарт C2PA в свои результаты поиска, позволяя пользователям видеть, было ли изображение создано или отредактировано с помощью инструментов ИИ. Функция «Об этом изображении» технологического гиганта в Google Функции «Поиск», «Линза» и «Круг для поиска» будут отображать эту информацию, если она доступна.

В своем блоге Лори Ричардсон написала: GoogleВице-президент по доверию и безопасности признала сложность установления происхождения контента на разных платформах. Она заявила: «Установление и сигнализация происхождения контента остается сложной задачей с рядом соображений, основанных на продукте или услуге. И хотя мы знаем, что не существует универсального решения для всего контента в Интернете, сотрудничество с другими в отрасли имеет решающее значение для создания устойчивых и совместимых решений».

Компания планирует использовать новейший технический стандарт C2PA версии 2.1, который, как сообщается, обеспечивает улучшенную защиту от атак с целью подделки. Его использование выйдет за рамки поиска, поскольку Google намерена включить метаданные C2PA в свои рекламные системы как способ «обеспечения соблюдения ключевых политик». YouTube также может увидеть интеграцию информации C2PA для контента, снятого камерой, в будущем.

Google заявляет, что новая инициатива согласуется с другими усилиями по обеспечению прозрачности ИИ, включая разработку SynthID, встроенной технологии водяных знаков, созданной Google Глубокий Разум.

Широкое распространение эффективности C2PA остается мечтой

Несмотря на то, что история насчитывает не менее пяти лет, дорога к полезной технологии определения происхождения контента, такой как C2PA, крутая. Технология полностью добровольна, и ключевые метаданные аутентификации можно легко удалить из изображений после их добавления.

Генераторы изображений ИИ должны будут поддерживать стандарт для информации C2PA, которая будет включена в каждый сгенерированный файл, что, вероятно, исключит модели синтеза изображений с открытым исходным кодом, такие как Flux. Так что, возможно, на практике более «аутентичные» медиа, созданные камерой, будут помечены как C2PA, чем изображения, сгенерированные ИИ.

Помимо этого, для поддержания метаданных требуется полная цепочка инструментов, которая поддерживает C2PA на каждом этапе, включая источник и любое программное обеспечение, используемое для редактирования или ретуширования изображений. В настоящее время только несколько производителей камер, таких как Leica, поддерживают стандарт C2PA. Nikon и Canon пообещали принять его, но The Verge сообщает, что все еще есть неопределенность относительно того, будут ли Apple и Google внедрят поддержку C2PA на своих смартфонах.

Photoshop и Lightroom от Adobe могут добавлять и поддерживать данные C2PA, но многие другие популярные инструменты редактирования пока не предлагают такой возможности. Достаточно одного несоответствующего редактора изображений в цепочке, чтобы нарушить всю полезность C2PA. И общее отсутствие стандартизированных методов просмотра данных C2PA на онлайн-платформах представляет собой еще одно препятствие для того, чтобы стандарт стал полезным для обычных пользователей.

На данный момент C2PA можно рассматривать как технологическое решение текущих проблем доверия вокруг поддельных изображений. В этом смысле C2PA может стать одним из многих инструментов, используемых для аутентификации контента путем определения того, поступила ли информация из надежного источника — если метаданные C2PA сохранены — но вряд ли он сам по себе станет полным решением проблемы дезинформации, сгенерированной ИИ.