Google отправила одного из своих инженеров-программистов в оплачиваемый административный отпуск за нарушение политики конфиденциальности компании.
С 2021 года 41-летнему Блейку Лемуану было поручено поговорить с LaMDA, или языковой моделью для диалоговых приложений, в рамках его работы над GoogleКоманда Responsible AI выясняет, использовал ли бот дискриминационные или ненавистнические высказывания.
LaMDA «построен путем тонкой настройки семейства нейронных языковых моделей на основе Transformer, специализированных для диалога, с 137 миллиардами параметров модели и обучения моделей использованию внешних источников знаний», согласно Google.
Это то, что компания использует для создания чат-ботов и возвращает явно содержательные ответы на запросы, основанные на материалах, собранных из триллионов интернет-разговоров и других сообщений.
Однако в какой-то момент своего расследования Лемуан, похоже, начал верить, что ИИ проявляет признаки разума. Инженер, написавший о своем опыте, говорит, что неоднократно пытался обострить свои опасения, но ему отказывали на том основании, что у него не было доказательств.
Поэтому он искал «консультации со стороны» о способностях LaMDA, что и привлекло Googleвнимание, как описано в сообщении Medium под заголовком «Может быть скоро уволен за выполнение работы по этике ИИ».
Эту историю подхватили The Washington Post, затем The Wall Street Journal, Financial Times и многие другие.
Будучи отправлен в административный отпуск, который, по его словам, Google делает «в ожидании увольнения кого-то», Лемуан далее опубликовал то, что, как он утверждал, было разговором с LaMDA.
Ниже приведены некоторые выдержки:
Полное «интервью» можно прочитать здесь. Хотя поразительно, что ИИ может сделать это, Google опасается «антропоморфизации», о которой упоминает Лемуан, то есть приписывания человеческих характеристик или поведения животным или объектам.
В заявлении к Регистр, Google пресс-секретарь Брайан Гэбриел сказал: «Важно, чтобы GoogleПринципы ИИ интегрированы в нашу разработку ИИ, и LaMDA не стал исключением. Хотя другие организации разработали и уже выпустили аналогичные языковые модели, мы применяем сдержанный и осторожный подход к LaMDA, чтобы лучше учитывать обоснованные опасения по поводу справедливости и фактической достоверности.
«LaMDA прошла 11 различных обзоров принципов ИИ, а также тщательное исследование и тестирование, основанное на ключевых показателях качества, безопасности и способности системы делать заявления, основанные на фактах. Исследовательский документ, опубликованный ранее в этом году, подробно описывает работу, которая идет в ответственное развитие LaMDA.
«Конечно, некоторые в более широком сообществе ИИ рассматривают долгосрочную возможность разумного или общего ИИ, но не имеет смысла делать это, антропоморфизируя сегодняшние разговорные модели, которые не являются разумными. Эти системы имитируют типы обмены сообщениями, найденные в миллионах предложений, и могут рифмовать на любую фантастическую тему — если вы спросите, каково это быть динозавром мороженого, они могут сгенерировать текст о таянии и реве и так далее.
«LaMDA имеет тенденцию следовать подсказкам и наводящим вопросам, следуя шаблону, установленному пользователем. Наша команда, включая специалистов по этике и технологов, рассмотрела опасения Блейка в соответствии с нашими Принципами ИИ и сообщила ему, что доказательства не подтверждают его утверждения. .
«Сотни исследователей и инженеров общались с LaMDA, и мы не знаем, чтобы кто-то еще делал широкомасштабные утверждения или антропоморфизировал LaMDA, как это сделал Блейк». ®
