Этапы тестирования ChatGPT довольно быстро показали, что чат-бот OpenAI и другие подобные ему могут выйти из строя — или «галлюцинировать» — при достаточном количестве тыканий и подталкиваний.
Липкий пластырь OpenAI заключался в том, чтобы ограничить количество запросов, которые пользователь мог сделать, прежде чем чат-бот сойдет с ума. Теперь для предприятий, которые, возможно, опасаются сумасшедших тенденций ИИ, гигант графических процессоров Nvidia выпустил программное обеспечение с открытым исходным кодом, которое, как утверждается, может поддерживать большие языковые модели (LLM) в теме, обеспечивать точную информацию и ограничивать их от подключения к небезопасным приложениям, что предположительно помешало бы реализации в условиях предприятия от того, чтобы быть совершенно неуместным.
NeMo Guardrails был выпущен вчера. Nvidia заявила, что это связано с тем, что «многие отрасли внедряют LLM, мощные механизмы, лежащие в основе этих приложений ИИ. Они отвечают на вопросы клиентов, обобщают длинные документы, даже пишут программное обеспечение и ускоряют разработку лекарств. NeMo Guardrails разработан, чтобы помочь пользователям сохранить это новое безопасного класса приложений на базе ИИ».
Утверждается, что программное обеспечение работает с любым LLM и, поскольку оно имеет открытый исходный код, работает вместе со «всеми инструментами, которые используют разработчики корпоративных приложений», включая LangChain, еще один набор инструментов с открытым исходным кодом, который помогает подключать сторонние приложения к LLM и автоматизации бизнеса. платформа Запир.
«Практически каждый разработчик программного обеспечения может использовать NeMo Guardrails — не нужно быть экспертом по машинному обучению или специалистом по данным. Они могут быстро создавать новые правила с помощью нескольких строк кода», — заявила Nvidia.
Эти правила перехватывают вопросы до того, как чат-бот сможет придумать какую-нибудь старую чепуху, и могут даже заставить ИИ ответить «я не знаю» вместо того, чтобы представить что-то убедительное, но в конечном итоге ложное.
Хотя программное обеспечение доступно на GitHub, Nvidia также предложит его в качестве поддерживаемого пакета через платформу Nvidia AI Enterprise и облачные сервисы Nvidia AI Foundations. Компания продолжит разработку и улучшение NeMo Guardrails, которые, по ее словам, являются результатом многолетних исследований «по мере развития ИИ».
Выступая перед прессой в понедельник, Джонатан Коэн, вице-президент Nvidia по прикладным исследованиям, сказал, что, по его мнению, способность NeMo Guardrails «обнаруживать и смягчать галлюцинации» может стать ответом на проблемы, возникающие у технологии.
Одна такая галлюцинация уничтожила стоимость Alphabet на 120 миллиардов долларов, потому что ее чат-бот Bard неправильно заявил в демонстрации, что «JWST сделал самые первые снимки планеты за пределами нашей Солнечной системы». ChatGPT от OpenAI и его коллаборация с Microsoft Bing также допустили всевозможные оплошности, от случайных заявлений о живых людях как о мертвых, неудач в базовой математике и газлайтинга пользователей. Это также не всегда хорошо в кодировании. На самом деле недостатков технологии слишком много, чтобы их перечислять, но это не ослабило энтузиазма потребителей и бизнеса ни к лучшему, ни к худшему.
Тем не менее, Nvidia оседлала волну искусственного интеллекта и добилась большого финансового успеха. Благодаря аппаратному обеспечению, оптимизированному или даже разработанному специально для рабочих нагрузок ИИ, центр обработки данных Nvidia теперь больше, чем вся компания была в 2020 году. Вместо угрызений совести эта попытка обуздать ИИ, несомненно, поможет наполнить казну Nvidia за счет поддерживаемых предложений. . ®
