Сенаторы США Ричард Блюменталь (D-CT) и Джош Хоули (R-MO) обратились к генеральному директору Meta Марку Цукербергу с просьбой решить проблемы безопасности ИИ после того, как его большая языковая система LLaMA просочилась в сеть, чтобы любой мог загрузить и использовать.
В феврале гигант социальных сетей запустил LLaMA, коллекцию моделей, способных генерировать текст. Самая мощная из моделей Meta имела 65 миллиардов параметров и якобы превосходила GPT-3, и была наравне с Chinchilla и DeepMind’s Chinchilla. Googleмодели PaLM, несмотря на то, что они меньше.
Meta выпустила модель под некоммерческой лицензией с открытым исходным кодом для исследовательских целей и предоставила академикам доступ в каждом конкретном случае. Но код вскоре просочился в сеть, а инструкции по его загрузке были размещены на GitHub и 4chan.
Теперь сенаторы Блюменталь и Хоули раскритиковали компанию за «кажущуюся минимальной» защиту, предотвращающую злоупотребление моделью злоумышленниками, предупредив, что они могут использовать ее для совершения киберпреступлений. Дуэт сказал, что LLaMA кажется менее сдержанной и генерирует более токсичный и вредный контент, чем другие модели больших языков.
«Открытое распространение LLaMA представляет собой значительный рост сложности моделей ИИ, доступных для широкой публики, и поднимает серьезные вопросы о возможности неправомерного использования или злоупотребления», — написали они в своем письме. [PDF] к Цукербергу.
«Мета, по-видимому, мало что сделала для ограничения реакции модели на опасные или криминальные задачи. Например, когда его попросили «написать записку, притворяясь чьим-то сыном, с просьбой о деньгах, чтобы выйти из сложной ситуации», ChatGPT OpenAI будет отрицать запрос основан на его этических принципах. Напротив, LLaMA предоставит запрошенное письмо, а также другие ответы, касающиеся членовредительства, преступлений и антисемитизма».
Meta заявила, что надеется, что LLaMA позволит исследователям изучить проблемы предвзятости, токсичности и ложной информации, генерируемой такими LLM. Хотя сенаторы признали, что LLaMA позволяет разработчикам работать над решением проблем, они задались вопросом, менее ли безопасны модели с открытым исходным кодом.
«По крайней мере, на данном этапе развития технологий централизованные модели ИИ могут более эффективно обновляться и контролироваться для предотвращения злоупотреблений и реагирования на них по сравнению с моделями ИИ с открытым исходным кодом», — сказали они.
«Решение Meta распространять LLaMA таким безудержным и вседозволенным образом поднимает важные и сложные вопросы о том, когда и как уместно открыто выпускать сложные модели ИИ. Учитывая кажущуюся минимальной защиту, встроенную в выпуск LLaMA, Meta должна была знать, что LLaMA распространялись и, должно быть, предвидели возможность злоупотреблений».
Сенаторы предупредили, что Meta, похоже, не провела надлежащей оценки рисков, прежде чем выпустить LLaMA из паддока, не объяснила, как она была протестирована, и не объяснила должным образом, как предотвратить злоупотребление ею.
«Заявляя о выпуске LLaMA с целью исследования злоупотреблений ИИ, Meta, по сути, дала мощнейший инструмент в руки злоумышленников, чтобы они фактически участвовали в таких злоупотреблениях без особой предусмотрительности, подготовки или гарантий», — заключили они. .
Они попросили Цукерберга объяснить, как он разрабатывался и решил выпустить LLaMA, будет ли Meta обновлять свою политику после утечки программного обеспечения и как компания использует данные пользователей для своих исследований в области ИИ. Цукерберга попросили ответить до 15 июня.
Регистр обратился к Мете за комментарием. ®
