Центр искусственного интеллекта и цифровой политики, некоммерческая исследовательская организация, призвал Федеральную торговую комиссию Америки провести расследование в отношении OpenAI, утверждая, что выскочка нарушила законы о торговле, выпустив GPT-4, продукт, который, по мнению центра, обманывает и подвергает людей риску.
В жалобе [PDF] наблюдателю за потребителями, поданному в четверг, CAIDP призвал чиновников изучить и, возможно, отрегулировать технологию генеративного искусственного интеллекта OpenAI, особенно ее последнюю модель GPT-4.
«Федеральная торговая комиссия заявила, что использование ИИ должно быть «прозрачным, объяснимым, справедливым и эмпирически обоснованным, способствуя подотчетности», — говорится в сообщении политического центра. «Продукт OpenAI GPT-4 не удовлетворяет ни одному из этих требований. FTC пора действовать.
«Должен быть независимый надзор и оценка коммерческих продуктов ИИ, предлагаемых в Соединенных Штатах. CAIDP призывает FTC начать расследование в отношении OpenAI, предписать дальнейшие коммерческие выпуски GPT-4 и обеспечить создание необходимых барьеров для защиты потребителей, бизнеса. и коммерческий рынок».
Группа подчеркнула недостатки и риски, отмеченные в системной карте GPT-4, отчете с описанием технических возможностей модели.
OpenAI признал, что GPT-4 далек от совершенства; он может увековечивать предубеждения, генерировать вредоносный текст и распространять ложную информацию, которая вводит пользователей в заблуждение. Генеральный директор стартапа Сэм Альтман даже зашел так далеко, что сказал, что на самом деле он «немного напуган» влиянием технологии на общество.
Бэкэнд-системы, управляющие моделями OpenAI, также оказались небезопасными, из-за утечки личной информации людей и платежных реквизитов.
В соответствии с разделом 5 Закона о Федеральной торговой комиссии «недобросовестные или вводящие в заблуждение действия или практика в сфере торговли или влияющие на нее» запрещены. CAIDP заявил, что OpenAI ввела в заблуждение пользователей сети, запустив продукт, который является «предвзятым, вводящим в заблуждение и представляет угрозу для конфиденциальности и общественной безопасности», несмотря на то, что знает об опасностях, которые он представляет. OpenAI также подверглась критике в жалобе за то, что она не была более прозрачной в отношении своей модели и данных обучения.
«CAIDP призывает комиссию инициировать расследование в отношении OpenAI и установить, что коммерческий выпуск GPT-4 нарушает раздел 5 Закона о Федеральной торговой комиссии, хорошо зарекомендовавшее себя руководство FTC для предприятий по использованию и рекламе продуктов искусственного интеллекта, а также новые нормы управления ИИ, официально одобренные правительством США, и Универсальные рекомендации по ИИ, рекомендованные ведущими экспертами и научными сообществами».
Группа попросила FTC прекратить дальнейшее коммерческое развертывание продуктов OpenAI на основе GPT, провести независимую оценку своей технологии и убедиться, что она соответствует правилам FTC, прежде чем она сможет вернуться на рынок. Хотя надзорный орган недавно опубликовал заявления, предупреждающие компании о чрезмерной рекламе и выпуске продуктов ИИ, которые могут быть использованы не по назначению, борьба с GPT-4 и OpenAI будет очень сложной задачей.
Регистр обратился к OpenAI за комментариями. И нет, мы не собираемся спрашивать ChatGPT об ответе по причинам, которые уже должны быть очевидны. ®
