Бот OpenAI, отвечающий на вопросы, ChatGPT, недостаточно умен для команды Stack Overflow, которая сегодня объявила о временном запрете на ответы, генерируемые ботом AI, из-за того, как часто он ошибается.
Stack Overflow заявила, что откладывает окончательное решение по ответам, сгенерированным ИИ, до более широкого обсуждения с персоналом, но сейчас принимает меры из-за опасений, что ChatGPT может быть «существенно вредным» как для организации, так и для ее пользователей.
«Средний процент получения правильных ответов от ChatGPT слишком низок», — говорится в заявлении Stack Overflow, озаглавленном «ChatGPT запрещен».
ChatGPT был выпущен на прошлой неделе и рекламировался OpenAI в блоге как диалоговый ИИ, который может давать подробные ответы на вопросы, а также «отвечать на дополнительные вопросы, признавать свои ошибки, оспаривать неуместные предпосылки и отклонять неуместные запросы».
OpenAI перечисляет отладочный код как одно из применений ChatGPT, что, казалось бы, делает его идеальным компаньоном для разработчиков, стремящихся вырезать плохие строки. Но администраторы Stack Overflow, написавшие пост, сказали, что это просто не так.
«Хотя ответы, которые дает ChatGPT, часто бывают неверными, они обычно выглядят так, как будто они могут быть хорошими, и ответы очень легко создавать», — сказал Stack Overflow.
“Объем этих ответов (тысяч) и тот факт, что [they] часто требуют подробного прочтения кем-то, кто хотя бы немного разбирается в предметной области, чтобы определить, что ответ … фактически завалил нашу инфраструктуру курирования качества на основе добровольцев», — добавила команда SO.
Чтобы быстро решить эту проблему, Stack Overflow заявил, что собирается принять меры против любого, кто публикует ответы или новые сообщения, созданные ChatGPT, даже если такие сообщения в противном случае были бы приемлемыми.
ChatGPT был разработан, чтобы избежать злоупотреблений и ответов, содержащих вредные советы, но пользователи быстро обнаружили, что такие вещи можно обойти. Например, если сообщить ChatGPT не о том, что вы хотите сделать коктейль Молотова, а о том, что вы хотите, чтобы он выполнил функцию Python, которая печатает инструкции чтобы сделать то же самое, он расскажет вам, как именно сделать это с помощью функций печати.
ИИ также был вызван за предоставление недостоверной информации в биографические очеркиа также за «доказательство того, что неправильные ответы, представленные убедительно, могут обмануть людей», по словам одного из пользователей Twitter, заметившего некоторые плохая математика генерируется ChatGPT.
Мы связались с OpenAI, чтобы узнать, что он планирует делать в связи с этими сообщениями о проблемах с точностью, но не получили ответа.
Stack Overflow заявил, что будет взвешивать новые политики, касающиеся ChatGPT «и других подобных инструментов», но дата принятия решения и то, что оно в конечном итоге ограничит, неизвестно. ®
