Комментарий Генеральный директор OpenAI Сэм Альтман сказал, что его выскочка готовится к приходу общего искусственного интеллекта, хотя существуют разногласия по поводу того, что на самом деле означает ОИИ, и скептицизм в отношении его заявления о том, что миссия OpenAI состоит в том, чтобы гарантировать, что ОИИ «приносит пользу всему человечеству».
Если вы прослезились от юридически необязывающего чувства GoogleПрекращен диктат “Не будь злым”, читайте дальше.
Согласно ChatGPT, неинтеллектуальному чат-боту OpenAI, предсказывающему предложения, «AGI означает искусственный общий интеллект, который относится к гипотетической способности системы искусственного интеллекта выполнять любую интеллектуальную задачу, которую может выполнить человек. Сюда входят такие задачи, как рассуждения, решение проблем, обучение на опыте и адаптация к новым ситуациям способами, которые в настоящее время выходят за рамки возможностей даже самых передовых систем искусственного интеллекта».
Ладно, что угодно. Главное, что такой системы пока нет. И мы не близки к его созданию. Итак, к расплывчатым заявлениям.
«ОИИ может дать каждому невероятные новые возможности; мы можем представить себе мир, в котором у всех нас есть доступ к помощи практически в любой когнитивной задаче, обеспечивая большой множитель силы для человеческой изобретательности и творчества», — лирично написал Альтман на своем веб-сайте.
Представьте себе мир, в котором онлайн-изображения, текст, музыка, голосовые записи, видео и код собираются без согласия людей для обучения моделей ИИ и продаются им обратно за 10 долларов в месяц. Мы уже там, но представьте себе нечто большее – и предположите, что это невероятно.
Мы не верим, что возможно или желательно, чтобы общество остановило свое развитие навсегда; вместо этого общество и разработчики ОИИ должны выяснить, как это сделать правильно.
Альтман допускает, что все может пойти наперекосяк, но утверждает, что мы все исправим: «С другой стороны, использование ОИИ сопряжено с серьезным риском неправильного использования, катастрофических происшествий и социальных потрясений. не верят, что возможно или желательно, чтобы общество остановило свое развитие навсегда; вместо этого общество и разработчики ОИИ должны выяснить, как сделать это правильно».
Другими словами, на устаревшем человеческом труде можно заработать так много денег, что владельцев бизнеса невозможно сдержать.
Напомним, что почти десять лет назад соучредитель и инвестор OpenAI Илон Маск, который несколько лет назад продал свои акции Microsoft, беспокоился о том, что искусственный интеллект представляет собой самую большую угрозу существованию.
Хотите верьте, хотите нет, но мошеннический ИИ получает серьезное внимание [PDF] среди более очевидных потенциальных катаклизмов, таких как удары астероидов по Земле, глобальная климатическая катастрофа, пандемии, ядерная война, голод и другие кинематографические тропы.
Тем не менее, Альтман предполагает, что ОИИ нельзя остановить навсегда. Он мог просто позаимствовать фразу у злодея Таноса в Мстители: Финал«Я неизбежен».
Эмили Бендер, профессор кафедры лингвистики и директор лаборатории компьютерной лингвистики Вашингтонского университета в США, проанализировала пост Альтмана. таким образом в Твиттере: «С самого начала это просто отвратительно», — написала она. «Они думают, что на самом деле занимаются развитием/формированием AGI. И они думают, что имеют право решать, что «выгодно всему человечеству».
Вот мысленный эксперимент: представьте себе систему ОИИ, которая советует облагать миллиардеров налогом по ставке 95 процентов и перераспределять их богатство на благо человечества. Будет ли он когда-либо подключен к банковской системе для осуществления рекомендуемых изменений? Нет, не будет. Будут ли те, кто следит за AGI, действительно выполнять эти приказы? Опять же, нет.
Никто из обладающих богатством и властью не собирается уступать власть программному обеспечению или позволять ему отнимать хотя бы часть их богатства и власти, каким бы «умным» оно ни было. Ни один VIP не хочет, чтобы AGI диктовал их сокращение. И любой ОИИ, который дает больше власти и богатства в первую очередь могущественным и богатым или поддерживает статус-кво, — это не совсем то, что мы бы назвали технологией, которая, как выражается OpenAI, приносит пользу всему человечеству.
Неприступный ИИ отлично подходит для слежки за сотрудниками; для игры в поведение низкооплачиваемых водителей такси; за выявление нарушений, утечку коммерческой тайны или организацию труда; или для управления автомобилями на дорогах общего пользования с редкими смертельными случаями и без исполнительной ответственности.
Но никому не нужен непредсказуемый ОИИ. И если ОИИ предсказуем, он не более интеллектуален, чем любая другая механистическая система. Итак, мы снова имеем дело с ИИ в его нынешней формулировке: непрозрачные модели, созданные с сомнительным авторитетом, которые используются для получения прибыли и без особого учета последствий.
Как Бендер написал в своем анализе послания Альтмана: «Хотел бы я просто посмеяться над этими людьми, но, к сожалению, они пытаются (и я думаю, им это удается) начать дискуссию о регулировании так называемых систем ИИ».
Но формулировка вопроса с точки зрения регулирования AGI не соответствует действительности, утверждает Бендер. Такие системы ИИ, как ChatGPT или DALL•E — то, что она назвала «машинами для синтеза текста», — следует рассматривать в контексте более широких дискуссий о правах на данные, защите от автоматизированного принятия решений, слежке и других социальных трениях, связанных с технологиями.
«Проблема не в регулировании «ИИ» или будущего «ИИА», — заявил Бендер. «Он защищает людей от злоупотреблений со стороны корпораций и правительства, используя «ИИ» для сокращения расходов или уклонения от ответственности». ®
PS: Автор Чарли Стросс предположил, что время этой последней шумихи вокруг ИИ после обвала криптовалюты не случайно…
