Как обмануть ботов, торгующих акциями, с помощью ретвитов

В течение многих лет посты в Твиттере и другие онлайн-сообщения собирались и анализировались финансовыми алгоритмами, чтобы предвидеть движения фондового рынка. Но, оказывается, эти умные системы довольно тупые.

Финансово настроенные разработчики создали программы, которые поглощают твиты популярных общественных деятелей, таких как Дональд Трамп и Илон Маск, и проводят сделки, основываясь на настроениях их размышлений.

Финансовые специалисты, как правило, полагаются на более сложное программное обеспечение для анализа онлайн-сообщений от более широкого круга людей, чтобы избежать чрезмерной зависимости от одного источника. Однако их цели остаются прежними — делать прибыльные рыночные прогнозы.

Это становится более сложным, когда данным доверяют слишком много. Как выяснили шесть ученых из трех университетов США и IBM, подрывные твиты могут сделать предсказание акций на основе Twitter проигрышным предложением.

Исследователи – Юн Се и Санми Коеджо (Университет Иллинойса в Урбане-Шампейне), Дакуо Ван (IBM), Пин-Ю Чен (IBM), Цзиньцзюнь Сюн (Государственный университет Нью-Йорка в Буффало), Сиджия Лю (IBM/штат Мичиган). University) — описывают свой подход в статье под названием «Слово стоит тысячи долларов: состязательная атака на твиты обманывает прогнозы акций».

Исследователи утверждают, что инвесторы и модели машинного обучения все чаще полагаются на социальные сети для сбора информации и настроений в реальном времени для прогнозирования движения цен на акции.

Чтобы проиллюстрировать, что поставлено на карту, они указывают на дезинформацию, опубликованную злоумышленником в аккаунте Associated Press в Твиттере 23 апреля 2013 года — «Два взрыва в Белом доме и Барак Обама ранен», — которая ненадолго стерла рыночную стоимость на 136 миллиардов долларов.

Но вместо того, чтобы исследовать ущерб, который могут нанести злонамеренные твиты, распространяемые через скомпрометированную, широко отслеживаемую и доверенную учетную запись, или рыночный хаос, который может произойти, когда популярная личность в Твиттере делает спекулятивные заявления о публичной компании, как будто это факт, знатоки предлагают комбинированную атаку.

Пример из статьи твита с цитатой, созданного для того, чтобы сменить положительную торговую подсказку на отрицательную в глазах ботов, следящих за Твиттером.

Их метод эффективно отравляет доброкачественные твиты, добавляя к ним манипулятивный текст, предназначенный для обмана моделей финансового анализа. Манипулирование языковыми моделями с помощью синонимов — хорошо известная атака в мире машинного обучения. Исследователи говорят, что они считают, что ранее она не изучалась в контексте финансов.

Исследователи рассмотрели три конкретные модели: Stocknet, FinGRU и FinLSTM.

«Наша задача вдохновлена ​​​​и имитирует функцию ретвита в социальных сетях и использует ее для подачи враждебных образцов в набор данных», — поясняется в документе.

Исследователи говорят, что основная задача состоит в том, чтобы создать новые и эффективные состязательные твиты. Они утверждают, что им удалось это сделать, сопоставив семантику — проанализированное значение — доброкачественного твита и связанного злонамеренного твита таким образом, который не очевиден для потенциальных читателей-человеков и компьютеров.

Например, исследователи предполагают, что этот подлинный твит из твиттер-аккаунта wallstreetbet7821…

…можно объединить с этим семантически похожим манипулятивным твитом…

Объединенные в ретвит, объединенные сообщения в Твиттере изменят модель целевого анализа твитов с положительного прогноза на отрицательный прогноз. Результатом потенциально может быть плохая сделка на фондовом рынке.

Смысл использования ретвита, а не создания нового твита со слегка измененной формулировкой, заключается в том, чтобы повлиять на то, как модель ИИ жертвы интерпретирует все в целом. Естественно, затронутая модель должна принять ретвит, чего может не произойти, если за ретвитящей учетной записью не следят. Но это более вероятно, если финансовая модель получает данные по темам (например, упоминания названия компании), а не по конкретным отслеживаемым учетным записям.

Исследователи проверили свою технику на смоделированном портфеле в 10 000 долларов и обнаружили, что она может привести к убыткам в диапазоне от 23 до 32 процентов при использовании стратегии «покупай-держи-продай» в течение двух лет.

«Предлагаемый метод атаки с ретвитом с заменой всего одного слова может привести к дополнительным потерям портфеля инвестора в размере 3,2 тысячи долларов примерно через два года», — поясняется в документе. Код для воспроизведения эксперимента ученых доступен на GitHub.

Исследователи говорят, что цель их работы — повысить осведомленность финансового сообщества о рисках, связанных с использованием моделей ИИ, а не с предоставлением конкретной реализации атаки. ®