Столбец Я до сих пор поражаюсь, как мало людей – даже в ИТ – слышали о Windows Copilot. О глубокой интеграции Bing Chat в Windows 11 от Microsoft было объявлено с большой помпой еще в мае.
Microsoft не молчала об этом – действительно, она, похоже, не может молчать о втором пилоте и втором пилоте – тем не менее, похоже, что реальный эффект этой внезапной совместной пилотизации всех вещей каким-то образом умудрился остаться незамеченным.
Почему?
Возможно, ИТ-менеджеры предприятий в настоящее время блокируют внедрение чего-либо Copilot, чтобы контролировать то, что люди используют в офисе. Это имело бы смысл, если бы люди надежно находились в офисе в 2023 году.
Microsoft поспешила внедрить Copilot в свою операционную систему
Это не тот мир. Люди работают откуда угодно. А как насчет домашнего ноутбука, который кто-то купил во время пандемии, чтобы отвечать на бесконечные звонки в Teams? Подпадает ли эта машина под действие корпоративной политики?
Эти домашние машины – их всего несколько сотен миллионов – постепенно получают последнее обновление Windows 11, и многие из этих пользователей нажимают разноцветный значок Copilot на панели задач. (Разумно, он пока не включен по умолчанию.) Надпись «PRE», выбитая в нижней части значка Copilot, говорит вам, что он все еще находится в предварительной версии – другими словами, это публичная бета-версия Microsoft очень новой и еще широко непроверенной технологии.
Изучая ряд машин, продававшихся в нескольких магазинах электроники в минувшие выходные, я пришел к выводу, что обновление примерно наполовину завершено. Microsoft стремится обеспечить возможность обновления каждого компьютера с Windows 11 с помощью Copilot к моменту выхода обновления ОС 23H2 в ноябре.
Windows Copilot выглядит так же, как Bing Chat – возможно, именно поэтому ИТ-специалисты не обратили на него внимания. Bing Chat доступен в браузере Microsoft Edge уже несколько месяцев – ничего страшного.
Но только Windows Copilot выглядит например, чат Bing. Хотя Bing Chat работает в изолированной среде веб-браузера, Copilot отказывается от этих мер безопасности. Copilot может трогать и изменять системные настройки Windows — не все (по крайней мере, пока), но некоторые из них, причем постоянно добавляются новые. Это означает, что чат-бот Microsoft с искусственным интеллектом вырвался из герметично закрытого браузера и получил доступ к нашим компьютерам.
Теоретически должно быть хорошо. Но если мы и узнали что-нибудь о чат-ботах с искусственным интеллектом, так это то, что теория — очень плохое руководство для практики. Хорошие люди задают чат-ботам с искусственным интеллектом приятные вопросы и получают приятные ответы. Менее приятные люди задают острые и опасные вопросы, поэтому чат-боты с искусственным интеллектом дают неприятные ответы.
Этого уже достаточно, когда чат-бот с искусственным интеллектом работает внутри браузера и может убедить кого-то, что убийство монарха — это хорошая идея. За пределами браузера это угроза, способная заставить любого серьезного типа информационной безопасности покрыться холодным потом.
Каждый день мы узнаем о новых атаках с быстрым внедрением — использовании двусмысленности человеческого языка (а иногда и просто нужного уровня шума) в качестве оружия для преодоления барьеров, удерживающих чат-ботов с искусственным интеллектом на прямом и узком пути. Рассмотрим атаку с быстрым внедрением, скрытую в документе Word: документ, отправленный в Windows Copilot для анализа и составления сводки, также внедряет сценарий, который автоматически передает злоумышленнику копии файлов в рабочем каталоге.
Потенциальная атака такого рода означает, что Microsoft должна быть очень осторожной в отношении того, что и как включать в Windows Copilot. К сожалению, странная цикличная природа чат-ботов с искусственным интеллектом означает, что сложно – а может быть, даже невозможно – отыграть все возможные сценарии атаки. Человеческий язык слишком странен, а сами чат-боты с искусственным интеллектом до сих пор очень плохо понятны.
Microsoft поспешила внедрить Copilot в свою операционную систему. Наделла и компания. ощущение, будто они наткнулись на лучшую возможность поставить мат в своей жизни Google – бугимен, которого они считают своим главным конкурентом. Но этот год не был выдающимся ни для профиля безопасности Microsoft, ни для того, как она заявляла об этих проблемах.
Когда с Windows Copilot дела пойдут плохо, узнаем ли мы? Неужели Microsoft действительно верит, что сможет выиграть гонку против поколения хакеров Black Hat, которые используют язык как оружие? Или мы увидим, что эта функция будет удалена после выпуска, поскольку Microsoft переосмысливает безопасность настольных компьютеров в эпоху повсеместного распространения искусственного интеллекта? ®
