Партнерский контент Возможно, в некоторых ИТ-корпусах существует небольшое иррациональное преувеличение в отношении потенциальной возможности GenAI склонить игровое поле киберзащиты в свою пользу.
По данным опроса Dell Technologies 2024 GDPI, 52% респондентов считают, что GenAI изначально даст преимущество организациям, защищающимся от киберугроз, и только 27% полагают, что это пойдет на пользу киберпреступникам.
Однако следует проявлять осторожность. Эксперты, включая технического директора Dell Technologies Джона Роуза, полагают, что киберпреступники могут использовать GenAI раньше, чем предприятия, что обеспечит им решающее преимущество в продолжающейся гонке кибервооружений. Примеры того, как GenAI разгадывает CAPTCHA, подчеркивают возможность ее использования для вредоносных действий, создавая новые возможности для плохих актеров. Более того, возможности быстрой автоматизации GenAI позволяют ему быстро внедрять такие мощные инструменты, как ransomware-as-a-service и передовые хакерские техники, повышая мастерство участников угроз в режиме реального времени.
Возможности GenAI распространяются и на создание убедительных подделок, представляя собой новый рубеж в цифровой борьбе. Государства внедряют эту тактику в свои стратегии кибервойны, используя обманчивый контент для распространения пропаганды, влияния на общественное мнение и потенциального подстрекательства к насилию. Риск использования атак для высокочастотной торговли, манипулирования рынком или нарушения неприкосновенности личной жизни еще больше усложняет ситуацию. По мере того, как стираются границы между реальностью и контентом, созданным ИИ, доверие к цифровому контенту, коммуникациям и системам может ослабевать.
GenAI таргетинг
Хотя системы GenAI предлагают передовые возможности, они также становятся мишенью для атак противника. Для обеспечения безопасности таких сред требуются надежные устройства, инфраструктура и строгие меры контроля доступа. Защита огромных объемов данных, на которые опираются системы GenAI при обучении, имеет решающее значение, что требует классификации данных, шифрования, безопасного хранения и методов передачи.
Также важно отметить, что на системы GenAI могут влиять предубеждения, содержащиеся в обучающих данных, что может привести к принятию несправедливых или дискриминационных решений. Для устранения этих предубеждений необходимо проводить регулярный аудит, использовать методы уменьшения предвзятости и соблюдать этические нормы.
Ожидается, что рабочие нагрузки GenAI также будут генерировать огромные объемы новых данных. 88% респондентов, принявших участие в опросе GDPI, заявили, что определенные наборы данных, созданные GenAI, будут особенно ценными и потребуют строгой защиты и безопасности данных. Более того, поскольку ожидается, что рабочие нагрузки GenAI будут распределены между локальными и несколькими публичными облаками, эта защита должна охватывать гибридные, мультиоблачные среды, чтобы обеспечить надлежащую защиту данных, где бы они ни находились.
Использование GenAI
Несмотря на эти проблемы, GenAI может стать незаменимым союзником в нашей борьбе с киберпреступниками. Поскольку более половины организаций, участвовавших в опросе GDPI, подтвердили, что за последние 12 месяцев они подвергались кибератакам, GenAI может помочь переломить ситуацию, предоставив инструменты прогнозирования для предвидения атак, выявления и устранения уязвимостей, а также улучшения обнаружения и реагирования на угрозы путем быстрого анализа огромных объемов данных для выявления аномальных моделей и поведения. Кроме того, он может помочь в проведении более предписывающего, персонализированного обучения для конечных пользователей, чтобы помочь исправить непреднамеренное поведение, например, нажатие на небезопасные страницы http или открытие подозрительной электронной почты.
GenAI также может помочь восстановиться после кибератак в масштабах компании, выявляя пострадавшие системы и данные и автоматизируя процесс восстановления из резервных копий. В целом, GenAI поможет компаниям не только повысить эффективность, но и восполнить пробел в навыках безопасности, высвободив сотрудников службы безопасности, чтобы они могли сосредоточиться на более стратегических и сложных задачах.
Обоюдоострый меч
GenAI представляет собой обоюдоострый меч для кибербезопасности. С одной стороны, он создает новые проблемы, которые требуют от нас переосмысления и эволюции стратегий кибербезопасности и защиты наших больших языковых моделей (LLM). С другой стороны, она обещает улучшить обнаружение и реагирование на угрозы, прогностические возможности и операционную эффективность. Главное – использовать его преимущества и при этом активно бороться с рисками, применяя надежные меры безопасности, постоянный мониторинг, регулярные обновления и исправления, а также постоянно развивающийся подход к конфиденциальности данных и этике.
Мы находимся на начальных этапах пути GenAI, и только 20% организаций, участвовавших в опросе Dell Generative AI Pulse, внедрили решения GenAI. К числу проблем, препятствующих внедрению, относятся опасения по поводу компрометации данных и интеллектуальной собственности, что приводит к нерешительности при внедрении. Главные препятствия связаны с безопасностью, технической сложностью и управлением данными. Преодоление этих проблем требует от организаций доступа к основным навыкам в области защиты данных, кибербезопасности и внедрения GenAI, что крайне важно для минимизации рисков и обеспечения быстрого времени получения выгоды.
Движение вперед
Ориентируясь в этом запутанном ландшафте, компания Dell Technologies выступает в качестве поставщика комплексных решений и услуг, предлагая решения для платформ GenAI и предложения в области кибербезопасности. Dell стремится помочь организациям уверенно ориентироваться в сложностях, связанных с повышением уровня кибербезопасности. Используя преимущества трех ключевых областей; уменьшение поверхности атаки, , обнаружение, реагирование и восстановление, Dell Technologies дает компаниям возможность двигаться вперед с помощью инновационных технологий, ускоряя их цифровые устремления. По мере развития цифровой эры компания Dell Technologies и ее экосистема партнеров стремятся помочь нашим клиентам преодолеть разрыв между инновационными технологиями, обеспечивая при этом устойчивость и стабильность их сред в ближайшие годы.
Статья предоставлена компанией Dell Technologies.
