Mozilla Developer Network, широко используемый технический ресурс для веб-разработчиков, на этой неделе представил вспомогательную службу под названием AI Help, возможно, не подозревая, что ее робот-помощник дает неверные советы.
Выпуск GitHub, открытый в пятницу в репозитории MDN для Yari, кода платформы, поддерживающей MDN, рассказывает печальную историю.
Разработчик, известный под именем Eevee, объясняет, что ожидаемое поведение MDN — «содержать правильную информацию».
Фактическое поведение AI Help, основанное на ChatGPT OpenAI, не всегда таково, отмечают они. «MDN сгенерировал убедительно звучащую ложь, и нет очевидного процесса ее исправления», — сообщает Иви.
Пока я не буду уверен, что вся интеграция и контент с «ИИ» навсегда удалены из MDN, я не могу доверять MDN или использовать его для каких-либо целей.
Так не должно было быть. AI Help был вдохновлен Supabase Clippy, который, в свою очередь, был вдохновлен Clippy, что, как вы помните, смущало Microsoft. Так что, возможно, это все-таки было предопределено.
AI Help в настоящее время предлагается тем, кто зарегистрировал бесплатную учетную запись MDN Plus (или платный план без рекламы).
«AI Help — это не просто новый инструмент — это ваш новый помощник в решении проблем», — заявила в начале этой недели в своем блоге Хермина Кондей, директор группы продуктов MDN в Mozilla.
«Он предназначен для оптимизации процессов поиска, позволяя быстро и легко находить нужную информацию. Вот как это работает: просто задайте вопрос в MDN, и AI Help приступит к работе. самую актуальную информацию и представляет ее вам в кратком изложении».
Справка AI включает в себя объяснение AI, кнопку, которая предлагает чат-боту взвесить текущий текст веб-страницы. Именно эта конкретная функция сошла с рельсов, хотя утверждается, что общая функция AI Help также дает неправильные ответы.
Те, кто присоединился к отчету об ошибке Иви, похоже, немного критикуют своего нового ИИ-помощника.
«Это змеиное масло с искусственным интеллектом более чем бесполезно по причинам, описанным выше; другие примеры создать просто», — сказал MrLightningBolt. «Это делает MDN хуже, просто находясь там».
Или это из datarocks: «Как человек, который время от времени погружается в CSS, когда никто другой не доступен и что-то нужно исправить, я полагаюсь на эти документы, чтобы быть надежными. Сегодня это еще более верно, чем это было в прошлое, так как сгенерированный LLM материал распространяется по сети. Пожалуйста, сохраните MDN как надежный источник документации для разработчиков, созданной человеком».
Другие сообщают, что AI Help противоречит сама себе, неправильно идентифицирует функции CSS, ошибочно объясняет функции специальных возможностей и вообще не понимает CSS.
Авди Гримм написал: «Я не тратил десятилетие, пытаясь убедить людей использовать MDN вместо кучи низкокачественной ерунды, связанной с SEO, на W3Schools, только для того, чтобы им представили кучи низкокачественной чепухи AI на MDN. “
И несколько мыслей от Далтона Майнера: «Я использую MDN, потому что это всеобъемлющий и точный источник документации без пуха. Я не вижу, как выход LLM, склонный к вопиющим неточностям, улучшает это. Это резко ослабляет мое доверие к MDN, и я боюсь, что его включение приведет к чрезмерной зависимости от дешевой, но ненадежной генерации текста».
Было даже сравнение с оригинальной Clippy, которое не было задумано как лесть.
А вот разработчик Энди МакКлюр критикует новую функцию справки ИИ: «Помимо этических, юридических и репутационных вопросов — практически говоря, пока я не убедился, что вся интеграция и контент «ИИ» были постоянно удален из MDN, я не могу доверять MDN или использовать его для каких-либо целей. Если вы положили его в одно место, как я узнаю, что вы не положили его в другое? Коррупция «ИИ» уже чередуется с содержимым. В настоящее время кажется, что вам нужно щелкнуть в определенных отмеченных местах, чтобы сгенерировать контент «ИИ», но как я могу быть уверен, что это останется в будущем?»
Комментарии продолжаются таким образом. Если бы кто-то мог это предвидеть.
Mozilla не сразу ответила на запрос о комментариях.
Однако, когда эта история писалась, основной сопровождающий MDN, sideshowbarker, похоже, обратил внимание на неразбериху.
Примерно в 08:17 UTC в субботу предпринимались попытки отменить функцию объяснения ИИ. Кнопка «Объяснение ИИ» временно приостановлена. ®
