Разведывательное сообщество США запустило программу по разработке искусственного интеллекта, который может определять авторство анонимных писем, а также маскировать личность автора, слегка изменяя его слова.
Программа Human Interpretable Attribution of Text Using Underlying Structure (HIATUS) от Intelligence Advanced Research Projects Activity (IARPA) направлена на создание программного обеспечения, которое может выполнять «лингвистическое снятие отпечатков пальцев», говорится в сообщении Управления директора национальной разведки (ODNI).
«Люди и машины ежедневно производят огромное количество текстового контента. Текст содержит лингвистические особенности, которые могут раскрыть личность автора», — говорится в сообщении IARPA. [PDF].
IARPA полагает, что с правильной моделью она может определить согласованность стиля писателя в разных образцах, изменить эти языковые шаблоны, чтобы сделать письмо анонимным, и сделать все это так, чтобы это было понятно начинающим пользователям, сказал ODNI. ИИ HIATUS также должен быть независимым от языка.
«У нас есть все шансы достичь наших целей, предоставить разведывательному сообществу столь необходимые возможности и существенно расширить наше понимание вариаций человеческого языка, используя последние достижения в области компьютерной лингвистики и глубокого обучения», — сказал руководитель программы HIATUS доктор Тимоти Маккиннон. .
Чтобы разработать надежные модели, HIATUS планирует подойти к своим целям с точки зрения состязательного ИИ: атрибуция авторства и анонимизация текста — две стороны одной и той же проблемы, поэтому экспериментальные группы HIATUS будут противопоставлены друг другу.
«Системы атрибуции оцениваются по способности сопоставлять элементы одного и того же автора в больших коллекциях, в то время как системы конфиденциальности оцениваются по способности препятствовать системам атрибуции», — говорится в сообщении IARPA.
Агентство заявило, что также планирует разработать стандарты объяснимости для ИИ HIATUS.
Маккиннон сказал, что частью того, что делает HIATUS, является попытка демистифицировать некоторые неизвестные модели нейронного языка (в центре внимания усилий HIATUS), которые, по его словам, работают хорошо, но по сути являются черными ящиками, которые функционируют без того, чтобы их разработчики знали, почему они делают это. конкретное решение.
В идеале, сказал Маккиннон, «когда мы выполняем атрибуцию или обеспечиваем конфиденциальность авторства, мы можем действительно понять, почему система ведет себя так, как она есть, и иметь возможность убедиться, что она не улавливает ложные вещи и что она делает. правильная вещь.”
По словам ODNI, в случае успеха HIATUS может иметь далеко идущие последствия, от противодействия иностранному влиянию до выявления контрразведывательных рисков и защиты авторов, чья работа может поставить их под угрозу. Маккиннон добавляет, что искусственный интеллект HIATUS также может определять, является ли текст сгенерированным машиной, а не человеком.
Около 70 процентов завершенных исследований IARPA передаются другим государственным партнерам для реализации, в которых IARPA не будет участвовать — все, что оно делает, — это разрабатывает технологию, а не превращает ее во что-то полезное. Тем не менее, по данным спецслужбы, шансы в пользу HIATUS.
Однако не ожидайте, что эта технология появится в готовом виде в ближайшее время: теперь, когда начался HIATUS, пройдет 42 месяца (три с половиной года) до завершения эксперимента, и это всего лишь тогда другие правительственные учреждения, скорее всего, получат возможность использовать HIATUS, если Маккиннон и его команда добьются успеха. ®
