Анализ На этой неделе OpenAI представила плагины ChatGPT, способ расширить возможности своей языковой модели чат-бота за пределы мешанины данных обучения в Интернете до индивидуальной бизнес-информации.
OpenAI настолько настороженно относится ко всем способам, которыми ChatGPT и другие его модели могут дать осечку, что компания начинает свое объявление с заверения читателей в том, что ее осторожное развертывание следует из ее желания решить «проблемы безопасности и согласования».
Для этого есть веская причина — большие языковые модели (LLM), эвфемистически называемые искусственным интеллектом или просто ИИ, некоторые считают ядовитыми конструкциями, которые необходимо сдерживать.
LLM также ограничены любой информацией, к которой можно получить доступ или получить из их данных обучения. Как говорит OpenAI: «Эта информация может быть устаревшей и универсальной для всех приложений. инструкции, но чтобы на самом деле следовать этим инструкциям, вам нужен другой процесс».
Этот другой процесс состоит из сторонних приложений и служб. В настоящее время следующие компании тестируют воду этой экосистемы: Expedia, FiscalNote, Instacart, Kayak, Klarna, Milo, OpenTable, Shopify, Slack, Speak, Wolfram и Zapier. Можно ожидать большего, поскольку OpenAI расширяет доступ к своей программе плагинов.
«Хотя это и не идеальная аналогия, плагины могут быть «глазами и ушами» для языковых моделей, предоставляя им доступ к информации, которая является слишком свежей, слишком личной или слишком специфической для включения в обучающие данные», — пояснил OpenAI.
«В ответ на явный запрос пользователя плагины также могут позволить языковым моделям выполнять безопасные, ограниченные действия от их имени, повышая полезность системы в целом».
Вы можете быть уверены, что эти действия будут безопасными, потому что сообщение OpenAI содержит более 20 случаев «безопасного» или «безопасного». Повторение — это новое согласие.
Стоит отметить, что испытания на безопасность ГПТ-4 [PDF] рассматривал своего рода сценарий плагина, в котором модель пыталась убедить работника TaskRabbit решить головоломку CAPTCHA от имени модели.
С практической точки зрения, плагины OpenAI позволяют людям вводить текстовые команды с помощью набора текста или распознавания речи, а ChatGPT формулирует ответ, используя данные сторонних сервисов. Если бы это можно было сделать точно и быстро без чрезмерных затрат, OpenAI, возможно, нашел бы преемника традиционного веб-поиска.
Вот пример подсказки из объявления:
ChatGPT в этом сценарии имеет доступ к плагинам от OpenTable, службы бронирования ресторанов, механизма вычислительных знаний Wolfram Alpha и InstaCart, службы розничной доставки. И, используя рецепт из нераскрытого источника (предположительно, не полученного статистически), модель чата может объединить шаги в составной подсказке, сделав заказ, выбрав рецепт, подсчитав количество калорий и разместив заказ на ингредиенты.
Еще в 2006 году, когда была основана AWS и, возможно, началась облачная эра, Google Руководители охарактеризовали локальную возможность корпоративного поиска компании как «сверхкомандный интерфейс с внешним миром», основанный на способности ее оборудования предоставлять доступ к информации помимо проиндексированных корпоративных документов, такой как данные отслеживания отправлений и информация о погоде.
OpenAI теперь реализовал более удобный прототип для этого видения — он предлагает командную строку, но не только для тех, кто запомнил непонятные последовательности команд и флаги или операторы поиска. В соответствии с этим новым режимом интернет-пользователи с различными техническими способностями могут выполнять запросы без проб и ошибок по поисковым ключевым словам, ограничиваясь больше участием сторонних партнеров, чем собственным знакомством с синтаксисом поиска.
Google наверняка заметили, что OpenAI создала плагин для браузера, который отправляет GET-запросы к API поиска Bing. «Это позволяет плагину просмотра быть полезным для получения информации, но исключает «транзакционные» операции, такие как отправка форм, которые имеют большую площадь поверхности для проблем безопасности», — говорится в сообщении OpenAI.
Прямо сейчас компании должны задаться вопросом, что может быть эквивалентно поисковой оптимизации (SEO) в экосистеме, управляемой моделями чата. Есть ли способ гарантировать, что ChatGPT рекомендует ваш виджет, а не конкурентов, если есть возможность выбора? И совместим ли этот подход с индустрией цифровой рекламы — лучше ли ChatGPT подходит для направления трафика на веб-сайты или для вызова сервисов, зависящих от API, и любой другой бизнес-модели, которая влечет за собой?
Те, кто рассматривает экосистему плагинов OpenAI, вероятно, должны учитывать последствия зависимости от бизнеса, который недавно дал клиентам три дня на то, чтобы отказаться от своего Codex API, только чтобы смягчиться после общественного протеста. но только для исследователей. Существует также вероятность того, что вы станете «шерлоком» — OpenAI может создать собственную версию популярных сервисов по мере развития своей платформы, что сделает партнеров излишними.
«Мы работаем над разработкой плагинов и доведением их до более широкой аудитории», — заключает OpenAI. «Нам есть чему поучиться, и с помощью каждого мы надеемся создать что-то полезное и безопасное».
Опять это слово. ®
