За последние несколько месяцев было много разговоров о новом чат-боте ChatGPT. Во многих случаях отчеты о OpenAI ChatGPT обычно положительные. Этот инструмент прошел большинство тестов, которым он подвергался. У этого инструмента ИИ почти нет недостатков. Однако, когда технологии все положительные, это повод для беспокойства. В недавнем мнении Анны Коллард, старшего вице-президента по контент-стратегии и евангелиста KnowBe4Africa, ChatGPT может представлять некоторую угрозу за всем позитивом.
ChatGPT — это чат-бот, который пишет текст и диалоги, используя методы глубокого обучения. Во многих случаях очень сложно отличить текст от реального человека от сообщения из ChatGPT. Теперь можно создать полную цепочку заражения с помощью общедоступного чат-бота с искусственным интеллектом, начиная с фишингового электронного письма, написанного убедительно похожим на человеческий язык.
Такое убедительное мошенническое электронное письмо было недавно сделано исследователями Checkpoint в качестве теста. Они использовали только ChatGPT, чат-бот, который создает текст и взаимодействия, которые могут убедить практически любого, что они были написаны реальным человеком с использованием методов глубокого обучения. Однако эта удивительная технология, созданная OpenAI и в настоящее время доступная в Интернете бесплатно, содержит ряд потенциальных рисков для кибербезопасности.
Потенциальные риски кибербезопасности ChatGPT
- Социальная инженерия: с помощью мощной языковой модели ChatGPT злоумышленникам легче заставить жертв разглашать личную информацию или устанавливать вредоносное ПО, создавая реалистичные и убедительные фишинговые сообщения.
- Мошенничество: хакеры могут генерировать текст с помощью языковых моделей ChatGPT для создания поддельной рекламы и других мошеннических материалов. Это значительно облегчит атаку злоумышленникам.
- Мошенничество: Злоумышленники могут имитировать свою цель в текстовом контексте, таком как электронная почта или текстовое сообщение, используя ChatGPT для создания правдоподобной цифровой копии своего стиля письма.
- Автоматизация атак. Злоумышленники могут более эффективно инициировать крупномасштабные атаки, используя ChatGPT для автоматизации создания вредоносных сообщений и фишинговых электронных писем.
- Спам: языковая модель может быть настроена для быстрого создания большого количества низкокачественного контента. Этот контент можно использовать по-разному, например, в спам-кампаниях по электронной почте или в комментариях в социальных сетях.
Угрозы ChatGPT реальны
Проблемы, перечисленные выше, входят в первую пятерку возможных угроз, которые представляет ChatGPT. Все вышеперечисленные проблемы представляют реальную опасность для бизнеса и всех пользователей Интернета. Эти проблемы будут распространяться только по мере того, как OpenAI продолжает развивать свою стратегию. Если вы считаете, что приведенный выше список убедителен, то ChatGPT отлично справляется со своей задачей. Это потому, что все вышеперечисленные пункты были на самом деле написаны с помощью ChatGPT с парой настроек, конечно. Инструмент настолько мощный, что может четко определить и сформулировать собственные внутренние риски взлома.
Однако существуют меры безопасности, которые люди и компании могут предпринять, чтобы снизить риск чат-бота с искусственным интеллектом. Это может сделать только персонал, обладающий знаниями в области современной безопасности. Скорость киберпреступности исключительна. Несколько лет назад киберпреступники специализировались на краже личных данных, но теперь они захватывают сеть вашей компании, взламывают ваши банковские счета и крадут десятки тысяч или даже сотни тысяч долларов. Несмотря на то, что ChatGPT, интеллектуальная платформа, может быть создана с самыми лучшими намерениями, она только увеличивает обязанность пользователей Интернета всегда быть начеку, доверять своей интуиции и осознавать риски, связанные с переходом по любой ссылке или открытием веб-сайта. файл.
В запросе ChatGPT с вопросом «Каковы риски взлома ChatGPT» часть ответа чат-бота гласила:
«Чтобы снизить эти риски, разработчики ChatGPT должны принять меры для обеспечения безопасности данных, используемых для обучения и эксплуатации модели. Они также должны принимать меры для обнаружения и предотвращения злонамеренных действий или атак. Также полезно регулярно отслеживать и обновлять функции безопасности модели».
ChatGPT изменит мир — Билл Гейтс
В другом отчете американский миллиардер Билл Гейтс считает, что ChatGPT «изменит мир». По сообщениям Reuters, Билл Гейтс, соучредитель Microsoft, описал ChatGPT как чат-бота, который может отвечать на запросы клиентов. Гейтс сделал это заявление в интервью, опубликованном в пятницу немецкой деловой газетой Handelsblatt. Далее он говорит, что очень важно, когда ответы звучат так, как будто они исходят от людей. Он даже сравнивает прогресс с ростом Интернета с точки зрения важности.
«Пока ИИ может читать и писать, но не может понять содержание. Новые программы, такие как ChatGPT, повысят эффективность многих офисных задач, помогая выписывать счета или электронные письма. Это изменит наш мир», — сказал он в комментарии.
Microsoft обновила свой браузер Edge и поисковую систему Bing с помощью технологии ChatGPT от OpenAI. По словам компании, использование этой технологии при поиске в Интернете похоже на помощника в учебе, личного планировщика и творческого партнера. Без сомнения, благодаря этому новому инструменту искусственного интеллекта способ работы некоторых вещей значительно изменится. Однако некоторые ученые и технологические компании недовольны текущим эффектом ChatGPT.
В учебе это помогает студентам обманывать, и многие университеты, особенно в США, недовольны этим. Однако израильский стартап утверждает, что у него есть инструмент, который может обнаруживать текст ChatGPT. OpenAI, разработчик ChatGPT, также работает над аналогичным инструментом.
