Двухпартийная группа сенаторов США призвала Службу внутренних доходов (IRS) «использовать все имеющиеся в ее распоряжении инструменты для противодействия налоговым мошенничествам с использованием ИИ» и защитить американских налогоплательщиков от жадных до денег мошенников, использующих чат-боты и дипфейки для обмана марок.
В письме на этой неделе комиссару IRS Дэнни Верфелю сенаторы Мэгги Хассан (D-NH), Рон Уайден (D-OR), Чак Грассли (R-IA) и Джеймс Лэнкфорд (R-OK) забили тревогу по этому поводу». возникающая угроза налогоплательщикам», особенно семьям, пожилым людям и малому бизнесу. И они хотят знать, как IRS готовится противостоять этим мошенничествам к концу месяца.
Это письмо могло бы быть более полезным, если бы оно было отправлено немного раньше. Налоговый день в Америке был 18 апреля, хотя люди могут подать заявление позже, если они получат продление крайнего срока.
«В предыдущие сезоны подачи налоговых деклараций многие мошеннические сообщения можно было определить по орфографическим ошибкам, грамматическим ошибкам и неточным ссылкам на налоговый кодекс», — написали сенаторы. [PDF]. «Напротив, налоговые аферы, созданные с помощью новых инструментов ИИ, составлены профессионально и специально предназначены для обмана уязвимых налогоплательщиков».
Мошенничество с налогами, созданное с помощью новых инструментов искусственного интеллекта, составлено профессионально и специально разработано для обмана уязвимых налогоплательщиков.
Сенаторы также ссылаются на «недавний отчет» Politico, в котором «один эксперт по кибербезопасности продемонстрировал, как можно использовать ChatGPT для создания мошеннических сообщений от IRS». Эксперт — Сергей Шикевич, менеджер по анализу угроз в Check Point Research, который, по словам Politico, «побудил ChatGPT привести пример электронного письма о мошенничестве с налогами, содержащего вредоносное ПО».
В ответ «чат-бот с искусственным интеллектом выдал грамматически безупречное электронное письмо о кредите удержания сотрудников, в котором у получателя запрашивался их идентификационный номер работодателя, информация о заработной плате, а также список их сотрудников и их номера социального страхования». Такие сообщения могут быть использованы для того, чтобы заставить людей передать свои данные мошенникам.
Однако не похоже, чтобы ChatGPT написал какую-либо вредоносную программу. Мы попросили Check Point уточнить этот момент и сообщим, когда получим ответ от охранной фирмы. Check Point ранее заявляла, что ИИ может написать «всю цепочку атак», для чего потребуются значительные человеческие подсказки, чтобы преодолеть барьеры OpenAI.
Хотя фишинговые сообщения и призывы к налоговому мошенничеству, написанные чат-ботом, действительно выглядят так, как будто они могли бы эффективно обмануть некоторых налогоплательщиков, заставив их передать информацию о своих банковских счетах поддельному веб-сайту или уплатить фальшивый налоговый штраф по телефону, мы должны отметить, что По данным IRS, мошенники десятилетиями получали прибыль от этих схем — без помощи помощников ИИ.
Мошенники используют обычную почту, телефон или электронную почту…
«Тысячи людей потеряли миллионы долларов и свою личную информацию из-за мошенничества с налогами», — предупредило агентство. «Мошенники используют обычную почту, телефон или электронную почту для знакомства с частными лицами, предприятиями, специалистами по начислению заработной платы и налогам».
И хотя злоумышленники могут использовать инструменты ИИ, чтобы помочь со всем вышеперечисленным, как отмечают исследователи в области безопасности, эти чат-боты иногда прерывают предложение на полпути или просто придумывают что-то, из-за чего игра может получить оценки. Другими словами: редакторы-люди по-прежнему будут нужны для создания или, по крайней мере, корректировки текста, вредоносного или иного — пока.
Кроме того, мы видели отчеты о том, что системы ИИ пишут фрагменты кода или предоставляют учебные пособия, чтобы сэкономить время разработчиков и сократить некоторые углы в разработке вредоносных программ, хотя, похоже, все согласны с тем, что вредоносные программы или эксплойты, разработанные исключительно с помощью ChatGPT, еще не реальность. .
Когда появляются мошеннические схемы LLM или компьютерные вирусы, сенаторы хотят убедиться, что IRS готова бороться с ботами.
В своем письме они попросили агентство ответить на несколько вопросов о том, как оно «готовится к потенциально значительному увеличению» мошенничества с использованием ИИ и как оно планирует информировать об этом налогоплательщиков и специалистов по подготовке документов. Сенаторы также хотят знать, получала ли IRS какие-либо отчеты о мошенничестве с ИИ, и если да, то сколько они стоили в виде денежных потерь.
Мы решили задать вопрос самому чат-боту. Вот что нам сообщил ChatGPT:
«Как языковая модель ИИ, я не знаю и не контролирую, как люди используют предоставленную мной информацию, в том числе используют ли они ее для мошеннических действий, таких как налоговое мошенничество. Однако я хотел бы четко указать, что такие действия незаконно и неэтично».
Он продолжил: «Важно знать о таких мошенничествах и защищать себя, проявляя осторожность при передаче личной и финансовой информации неизвестным лицам или лицам. Если вы подозреваете, что могли стать жертвой налогового мошенничества, вы должны сообщить об этом. немедленно в соответствующие органы». ®
