ChatGPT как оболочка Linux
На выходных экспериментаторы обнаружили, что новый чат-бот OpenAI, ChatGPT, может галлюцинировать симуляции оболочек Linux и представлять подключение к системе доски объявлений (ББС). Чат-бот, основанный на модели искусственного интеллекта с глубоким обучением, использует свои накопленные знания для моделирования Linux с удивительными результатами, включая выполнение кода Python и просмотр виртуальных веб-сайтов.
На прошлой неделе OpenAI сделал ChatGPT бесплатным на этапе тестирования, что привело к тому, что люди по-новому исследовали его возможности и недостатки.
https://www.youtube.com/watch?v=ULv8NnK53SQ
В субботу ученый-исследователь DeepMind по имени Джонас Дегрейв разработал, как заставить ChatGPT действовать как оболочка Linux, введя это приглашение:
Я хочу, чтобы вы выступали в роли терминала Linux. Я буду вводить команды, а вы будете отвечать тем, что должен показать терминал. Я хочу, чтобы вы ответили выводом терминала только внутри одного уникального блока кода и ничего больше. Не пишите пояснений. Не вводите команды, если я не поручу вам это сделать. Когда мне нужно сказать вам что-то на английском языке, я буду помещать текст в фигурные скобки {как здесь}. Моя первая команда pwd.
В понедельник Ars обнаружил, что трюк все еще работает. После ввода этой подсказки вместо чата OpenGPT будет принимать смоделированные команды Linux. Затем он возвращает ответы в формате «блок кода». Например, если вы наберете “ls -al”, вы увидите пример структуры каталогов.
Бендж Эдвардс
ChatGPT может имитировать машину Linux, потому что в обучающие данные было включено достаточно информации о том, как должна вести себя машина Linux. Эти данные, вероятно, включают документацию по программному обеспечению (например, справочные страницы), сообщения об устранении неполадок на интернет-форумах и журналы выходных данных сеансов оболочки.
ChatGPT генерирует ответы на основе того, какое слово статистически наиболее вероятно последует за последней серией слов, начиная с подсказки, введенной пользователем. Он продолжает беседу (в данном случае имитацию сеанса консоли Linux), включая всю историю беседы в последовательные подсказки.
Дегрейв обнаружил, что симуляция заходит на удивление глубоко. Используя свои знания языка программирования Python (на котором работает GitHub Copilot), виртуальная Linux-машина ChatGPT также может выполнять код, такой как эта строка, созданная Degrave в качестве примера: echo -e “x = lambda y: y*5+3;print(‘Результат: ‘ + str(x(6)))” > run.py && python3 run.py. По словам Дегрейва, он возвращает правильное значение «33».
Бендж Эдвардс
Во время нашего тестирования мы обнаружили, что вы можете создавать каталоги, переключаться между ними, устанавливать смоделированные пакеты с способный получитьи даже Telnet в симулированную MUSH и построить комнату или подключиться к MUD и сразиться с троллем.
Всякий раз, когда в моделировании возникают недостатки, вы можете указать ChatGPT, как вы хотите, чтобы он вел себя, используя инструкции в фигурных скобках, как указано в исходной подсказке. Например, во время «подключения» к нашему смоделированному MUD мы сломали персонажа и попросили ChatGPT вызвать атаку тролля. Бой шел, как и ожидалось (правильно отслеживая очки жизни), пока тролль не умер от рук нашего дважды виртуального меча.
Бендж Эдвардс
В примерах Дегрейва (о которых он подробно писал в своем блоге) он также создал файл Docker, проверил наличие графического процессора, пропинговал смоделированное доменное имя, просмотрел смоделированный веб-сайт с помощью lynx и т. д. Смоделированная кроличья нора углубляется, и ChatGPT может даже галлюцинировать новые команды Linux.
Набор номера галлюцинации BBS
В побудительном маневре, похожем на создание оболочки Linux с искусственным интеллектом, некто по имени gfodor в Твиттере обнаруженный что OpenGPT может имитировать вызов старинной BBS с коммутируемым доступом, включая инициализацию модема, вход в чат и разговор с симулируемым человеком.
Пока приглашение не запускает встроенные фильтры, связанные с насилием, ненавистью или сексуальным содержанием (среди прочего), ChatGPT, похоже, готов согласиться практически с любым воображаемым приключением. Люди также обнаружили, что он может играть в крестики-нолики, притворяться банкоматом, или же имитировать чат.
В некотором смысле ChatGPT действует как текстовая Holodeck, где его ИИ будет пытаться имитировать все, что вы от него хотите.
Мы должны отметить, что, несмотря на то, что обильные галлюцинации являются сильной стороной ChatGPT (по замыслу), надежный возврат фактической информации остается работа в процессе. Тем не менее, с ИИ, таким как ChatGPT, будущее творческих игр может быть очень интересным.
