[ad_1]
Джеффри Хинтон, пионер в области машинного обучения, наиболее известный своими исследованиями нейронных сетей, ушел из Google свободно говорить об опасностях ИИ.
Хинтон, 75 лет, профессор компьютерных наук в Университете Торонто и бывший Google ведущий исследователь, начал изучать нейронные сети задолго до того, как они вошли в моду. Он потратил десятилетия на разработку новых алгоритмов и архитектур искусственного интеллекта, создание методов обучения моделей и обработки данных. Его исследования проложили путь к нынешнему буму машинного обучения.
В 2018 году он получил престижную премию Тьюринга вместе с Йошуа Бенджио, профессором компьютерных наук в Университете Монреаля, и Яном ЛеКуном, главным ученым в области искусственного интеллекта в Meta, за их работу в области глубокого обучения.
Хинтон заявил, что ушел из Google в прошлом месяце, и что часть его теперь сожалеет о своей пожизненной работе в этой области. «Я утешаю себя обычным оправданием: если бы я этого не сделал, это сделал бы кто-то другой», — сказал он бывшему Рег стервятник Кейд Мец, который сейчас пишет для NYT.
Если бы я этого не сделал, это сделал бы кто-то другой
Хинтон сказал, что его все больше беспокоят риски ИИ, особенно после того, как Google начала создавать и развертывать Bard, собственный интерфейс чат-бота для веб-поиска, чтобы конкурировать с Bing на основе машинного обучения Microsoft.
По крайней мере, нам кажется, что Microsoft перехватила мяч чат-бота у OpenAI и побежала с ним, очень публично рассказывая о технологии по всей своей империи программного обеспечения, чтобы произвести впечатление на пользователей сети, и заставляя Google неохотно играть в догонялки. Несмотря на то Google изобрел архитектуру-трансформер под современными интерфейсами чата, широко использует машинное обучение за кулисами и, кажется, не уверен в положительном влиянии этой технологии на мир, тем не менее, король поиска стремится создать впечатление, что он не остался позади. Что означает чат-интерфейсы во всем Google теперь делает.
Коммерческий интерес стимулирует конкуренцию между компаниями и неизбежно продвигает технологию и внедряет ее в повседневную жизнь, что затрудняет смягчение ее воздействия на общество, как выразился Хинтон.
«Посмотрите, как это было пять лет назад и как сейчас. Возьмите разницу и распространите ее вперед. Это страшно», — сказал он.
Хинтон добавил, что генеративные инструменты искусственного интеллекта, которые упрощают создание поддельных изображений, текста, видео и аудио, о которых люди больше не смогут сказать, что правда, а что нет в Интернете.
Он предположил, что этим типам моделей также можно поручить писать код, и они смогут автономно запускать свои собственные программы в будущем. Если не остановить эту технологию, однажды она сможет создать программное обеспечение и машины в ущерб людям, так называемых роботов-убийц, подумал он.
«Идея о том, что эта штука действительно может стать умнее людей — в это поверили лишь немногие», — сказал он. «Но большинство людей думали, что это далеко. И я думал, что это далеко. Я думал, что это будет через 30–50 лет или даже больше. Очевидно, я больше так не думаю».
По его мнению, сегодняшние инструменты машинного обучения внедряются в различных отраслях и затрагивают в основном рабочие места белых воротничков. Аналитики предсказывают, что такие модели повысят производительность сотрудников и компаний; технология может заменить рабочие места, создавая новые. Хинтон сказал, что ИИ «убирает рутинную работу», но что нарушение работы «может отнять больше».
Хинтон сказал он вышел Google чтобы он мог говорить об опасностях ИИ, не расстраивая своего работодателя, и думал, что гигант Силиконовой долины «поступил очень ответственно». ®
[ad_2]
