Генеральный секретарь Организации Объединенных Наций Антониу Гутерриш призвал к созданию глобального органа по наблюдению за ИИ по образцу Международного агентства по атомной энергии (МАГАТЭ).
«Новые технологии развиваются с невероятной скоростью, как и связанные с ними угрозы», — сказал он на брифинге в понедельник. «Тревожные звоночки по поводу новейшей формы искусственного интеллекта — генеративного ИИ — оглушительны, и они громче всего раздаются разработчиками, которые его разработали».
«Эти ученые и эксперты призвали мир к действию, объявив ИИ экзистенциальной угрозой для человечества наравне с риском ядерной войны. Мы должны серьезно отнестись к этим предупреждениям».
Гутерриш выразил предпочтение, чтобы государства-члены ООН создали организацию для надзора и регулирования развития ИИ. Агентство будет действовать аналогично МАГАТЭ, которое разрабатывает и публикует политику и руководящие принципы, способствующие безопасному использованию ядерной энергии, при этом отслеживая и обеспечивая соблюдение гарантий, предотвращающих использование этой технологии для разработки оружия.
«Конечно, это зависит от инициатив государств-членов, но я поддержу идею о том, что у нас могло бы быть агентство искусственного интеллекта… вдохновленное тем, чем на сегодняшний день является Международное агентство по атомной энергии», — сказал он журналистам на брифинге.
Гутерриш признал, что создание такого агентства будет затруднено и потребует сотрудничества государственных органов и частных компаний, при этом участие последних означает, что они согласятся на проверку своего программного обеспечения и контроль за его возможностями.
Один стартап, который, похоже, поддерживает эту идею, — OpenAI. На самом деле, его соучредители — Сэм Альтман, Грег Брокман и Илья Суцкевер — даже предложили регулирование такого рода и заявили, что группа, подобная МАГАТЭ, должна отвечать за проверку систем, которые требуют высокого уровня вычислительных ресурсов или обладают возможностями. выше определенного порога.
С тех пор Альтман повторил эту идею во время своего тура по 17 странам, чтобы обсудить ИИ с политиками и разработчиками.
Альтман и многочисленные эксперты в области промышленности, политики и научных кругов считают, что если не остановить ИИ, это может привести к созданию технологии, которая может поставить под угрозу человечество. Некоторые утверждают, что глобальное регулирующее агентство могло бы противодействовать рискам, обеспечив безопасную и контролируемую разработку ИИ. Однако мнения разделились, и не все согласны с тем, что ИИ представляет собой экзистенциальную угрозу.
Глава ООН, похоже, увлекся идеей регулятора атомного класса. «Преимущество МАГАТЭ заключается в том, что это очень солидный институт, основанный на знаниях, и в то же время — пусть и ограниченный — в нем есть некоторые регулирующие фракции. Так что я считаю, что эта модель может быть очень интересной», — добавил Гутерриш. . ®
