Microsoft уволила всю свою команду, отвечающую за этичное использование программного обеспечения ИИ, в то время как гигант Windows наращивает использование технологии машинного обучения.
Решение в этом месяце уволить команду по этике и обществу в своей организации искусственного интеллекта является частью 10 000 сокращений рабочих мест, объявленных Microsoft в январе, которые продолжатся через ИТ-титана в следующем году.
Удар по этому подразделению может снять некоторые барьеры, предназначенные для обеспечения того, чтобы продукты Microsoft, которые интегрируют функции машинного обучения, соответствовали стандартам мегакорпорации в отношении этического использования ИИ, и возникает, поскольку некоторые поднимают вопросы о влиянии спорных моделей искусственного интеллекта на общество в большой.
С одной стороны, внедрить этику ИИ во весь бизнес как нечто, что должны учитывать все сотрудники, — это похоже на то, как Билл Гейтс сказал своим инженерам в 2002 году сделать безопасность приоритетом для всей организации. С другой стороны, вы можете подумать, что специальная команда, контролирующая это, была бы полезной внутри.
Платформер впервые сообщил об увольнении группы по этике и обществу и сослался на неназванных нынешних и бывших сотрудников. Группа должна была консультировать команды, поскольку Редмонд ускорил интеграцию технологий искусственного интеллекта в ряд продуктов, от Edge и Bing до Teams, Skype и облачных сервисов Azure.
У Microsoft по-прежнему есть Управление ответственного ИИ, которое работает с Эфирным комитетом компании и Стратегией ответственного ИИ в разработке (RAISE), чтобы распространять ответственные практики на операции в повседневной работе. Тем не менее, сотрудники сообщили информационному бюллетеню, что команда по этике и обществу сыграла решающую роль в обеспечении того, чтобы эти принципы были непосредственно отражены в разработке продуктов.
Однако представитель Microsoft сообщил Регистр что впечатление о том, что увольнения означают, что технологический гигант сокращает свои инвестиции в ответственный ИИ, ошибочно. Подразделение сыграло ключевую роль в создании культуры ответственных инноваций, поскольку несколько лет назад Microsoft приступила к работе над ИИ, и теперь руководители Microsoft переняли эту культуру и распространили ее по всей компании.
«Эта первоначальная работа помогла стимулировать междисциплинарный подход, в котором мы работаем в области исследований, политики и разработки в Microsoft», — сказал представитель.
«С 2017 года мы усердно работали над институционализацией этой работы и внедрением организационных структур и процессов управления, которые, как мы знаем, эффективны для интеграции соображений ответственного ИИ в наши инженерные системы и процессы».
Сотни людей работают над этими проблемами в Microsoft, «включая новые, специализированные ответственные группы ИИ, которые с тех пор были созданы и значительно выросли за это время, включая Управление ответственного ИИ и ответственную группу ИИ, известную как RAIL, которая встроена в группе инженеров, ответственной за нашу службу Azure OpenAI», — добавили они.
В отличие от этого, пострадало менее 10 человек из команды по этике и обществу, а некоторые были переведены в другие части бизнеса, в Управление ответственного ИИ и подразделение RAIL.
Смерть от множества порезов
Согласно отчету Platformer, команда была сокращена с 30 человек до семи в результате реорганизации в Microsoft в октябре 2022 года.
Члены команды в последнее время исследовали потенциальные риски, связанные с интеграцией Microsoft технологий OpenAI в компании и неназванных источниках, заявили генеральный директор Сатья Наделла и технический директор Кевин Скотт, стремясь как можно быстрее интегрировать эти технологии в продукты и предоставить их пользователям.
Microsoft инвестирует миллиарды долларов в OpenAI, стартап, продукты которого включают Dall-E2 для создания изображений, GPT для текста (на этой неделе OpenAI представила свою последнюю версию GPT-4) и Codex для разработчиков. Система искусственного интеллекта OpenAI ChatGPT — чат-бот, обученный на массивах данных из Интернета и других источников, который принимает подсказки от людей — например, «Напишите историю Римской империи из двух абзацев» — и выдает письменный ответ.
Microsoft также интегрирует новую крупноязыковую модель в свой браузер Edge и поисковую систему Bing в надежде сократить Googleдоминирующее положение в поиске.
С момента открытия для публики в ноябре 2022 года ChatGPT стал самым быстрым приложением, которое достигло 100 миллионов пользователей, превысив эту отметку в феврале. Однако проблемы с технологией — а также подобные приложения ИИ, такие как Google’s Bard — возник довольно быстро, начиная от неправильных ответов и заканчивая оскорбительными выражениями и газлайтингом.
Быстрые инновации и внедрение этих крупных систем искусственного интеллекта с языковой моделью вызывают более широкие дебаты об их влиянии на общество.
Редмонд прольет больше света на свою текущую стратегию ИИ во время мероприятия 16 марта, организованного Наделлой и названного «Будущее работы с ИИ». Регистр будет покрывать. ®
