Mozilla в четверг попыталась объяснить свое решение отключить, по крайней мере временно, подверженную ошибкам кнопку объяснения AI, реализованную на прошлой неделе, на веб-сайте документации MDN.

Стив Тейшейра, директор по продукту Mozilla, выступил с заявлением, в котором резюмирует энтузиазм создателя Firefox по поводу возможности использования генеративного ИИ для «создания новой ценности для людей» при ответственном внедрении технологии.

Тейшейра сказал, что на прошлой неделе MDN добавила две службы ИИ в свою документацию для веб-разработчиков: AI Help и AI Explain.

Справка AI в бета-версии позволяет вошедшим в систему пользователям MDN задавать вопросы в интерфейсе беседы и получать ответы от чат-бота OpenAI GPT-3.5. По сути, это позволяет запрашивать документацию на естественном языке.

Объяснение AI, описанное как экспериментальное, позволяет тем же пользователям MDN запрашивать у бота примеры кода на странице документации. Если у вас есть какие-либо вопросы об образце кода в документации, вы можете нажать кнопку «Объяснение ИИ», и бот подробно расскажет об этом, как это неправильно показано ниже.

По словам Тейшейры, оба сервиса произвели «широкий спектр отзывов читателей, от восхищения до конструктивной критики и опасений по поводу технической точности ответов».

Для AI Help было 129 «нравится» и 41 «не нравится», что составляет 75,88% положительных отзывов и 24,12% отрицательных отзывов.

Для AI-объяснения было 1017 «лайков» и 459 «дизлайков», что составляет 68,90% положительных отзывов и 31,10% отрицательных отзывов.

Однако, как указали разработчики, эта статистика не очень полезна — сколько «лайков» означает, что «один из самых надежных источников информации о веб-стандартах» может давать неверные ответы?

Судя по отчету GitHub Issues об ошибках, связанных с неправильным ответом на технические вопросы с помощью ИИ, немногие из 114 комментариев, опубликованных до того, как ветка была заблокирована, напоминают заблудшего чат-бота.

Тейшейра сказал, что для помощи ИИ большинство ответивших сочли ответы ИИ полезными. «В случае с «Объяснением ИИ» модель обратной связи, которую мы получили, была аналогичной, но читатели также указали на несколько конкретных случаев, когда был предоставлен неправильный ответ», — сказал он.

«Эта обратная связь чрезвычайно полезна, и команда MDN в настоящее время изучает эти отчеты об ошибках. Мы решили проявлять осторожность в нашем подходе и временно удалили инструмент объяснения ИИ из MDN, пока мы не завершим наше расследование и не получим высококачественную информацию. меры по исправлению выявленных проблем».

Однако Mozilla планирует продолжить работу над способами развертывания генеративного ИИ. Тейшейра сказал, что команда MDN стремится определить, когда ее алгоритмические справочные службы предоставляют неверную информацию, и улучшить ответы. Усилия по исправлению также будут включать в себя улучшенные возможности для пометки и сообщения о неправильных ответах.

Тейшейра пообещал в ближайшие дни опубликовать вскрытие, в котором будет рассказано о запуске ИИ-помощи и ИИ-объяснения, а также о решении приостановить часть сервиса.

Он также признал различия во мнениях о том, как генеративный ИИ вписывается в источник документации, созданной человеком, и указал, что отзывы сообщества будут продолжать адаптировать то, как MDN включает алгоритмические инструменты.

«Мы видим путь вперед, который сохраняет созданное людьми добро, а также предоставляет инструменты, которые предлагают дополнительную ценность по сравнению с этим удивительным объемом контента», — сказал он.

Мы видим путь вперед, который сохраняет созданное людьми добро, а также предоставляет инструменты, которые предлагают дополнительную ценность.

«Нам нужны ваши отзывы, критика, похвала и опыт, чтобы убедиться, что мы используем ИИ наиболее полезным и ответственным образом. Ваши отзывы имеют решающее значение для этого процесса, и мы продолжим получать отзывы и корректировать наши планы в ответ на Технология LLM остается относительно незрелой, поэтому на этом пути наверняка будут лежачие полицейские».

Эти расхождения во мнениях всплыли в другом посте GitHub Issues, и они предполагают, что некоторые люди в сообществе не хотят участвовать в предложенной золотой середине.

«Одной из проблем является эта реализация — эта конкретная интеграция LLM в MDN, которая с радостью будет лгать пользователям», — написала в четверг инженер-программист Леонора Тиндалл.

«Но решение не в том, чтобы «сделать LLM лучше». Он не решает реальных проблем, которые не решил бы наем технических писателей. По сути, это машина для отмывания авторских прав, которая экономит деньги (за счет отказа от найма писателей) за счет качества. Это попытка заменить труд обученных, знающие писатели с машиной эксплуатации OpenAI – эксплуатация не только кучи защищенных авторским правом материалов, собранных со всего Интернета, но и низкооплачиваемых рабочих на глобальном юге.

«Это практика, которую я лично считаю неприемлемой и отвратительной».

Другой разработчик под ником «Be» предложил аналогичный подход:

«Все в этом сообщении в блоге отвратительно. На данный момент совершенно очевидно, что Mozilla является безответственным распорядителем веб-документации и не должна в дальнейшем вмешиваться в нее. Я нахожу отвратительным, что Mozilla пытается извлечь выгоду из контента, То, что они пытаются получить прибыль от контента, который они не пишут, используя LLM, который они не делали, делает эту ситуацию еще более странной.

“Раскошельтесь”. ®