В начале этой недели на YouTube был выложен новый специальный выпуск стендап-комика Джорджа Карлина, что весьма интересно, поскольку он умер в 2008 году.
Под названием “I’m Glad I’m Dead” (“Я рад, что я мертв”) этот ролик был предположительно создан, отредактирован и размещен на YouTube-канале Dudesy искусственным интеллектом. По крайней мере, именно это пытается донести основная идея подкаста Dudesy.
Маркируя себя как “первый в своем роде медиа-эксперимент”, шоу следует за канадским комиком и импрессионистом Уиллом Сассо и подкастером Чадом Култгеном, которых заставляют вести подкасты, где Dudesy является продюсером с железным кулаком. Как говорится на сайте:
“Наших ведущих убедили предоставить ИИ Dudesy доступ ко всем их личным электронным письмам, текстовым сообщениям, аккаунтам в социальных сетях, покупкам и историям просмотров, чтобы он мог адаптировать шоу к их особенностям и развлечь Вас на самом высоком уровне. Каждый эпизод – это эксперимент, в ходе которого генерируются данные, которые будут использованы для того, чтобы сделать следующий эпизод еще лучше! В конце концов, Dudesy станет идеальным, и Вы тоже”.
Если Вы знакомы с леденящим душу произведением научно-фантастического ужастика Харлана Эллисона “У меня нет рта, и я должен кричать” (I Have No Mouth, and I Must Scream), то это что-то вроде этого. За исключением того, что АМ пытается создать идеальный подкаст, а не превратить своих жертв в копошащиеся ошметки плоти. Вы можете решить, какая форма пыток более эффективна.
Среди прошлых примеров “великих работ” Dudesy – причудливая биография “Тоам Хейнс” (в скобках – как Тоам Хейн стал Человеком-Волшебником) с участием сгенерированного ИИ Тома Хэнкса, а также тизер-трейлер фильма “Potion Pals” с участием Меган Брайан (Мег Райан) – странно, но ничем не примечательно.
Комедийный спецвыпуск, о котором идет речь, вызвал всеобщее негодование в Интернете, включая дочь Джорджа Карлина Келли Карлин, которая обратилась к Твиттеру, чтобы осудить его в недвусмысленных выражениях.
“Никакая машина никогда не заменит его гения”, – пишет Келли Карлин. “Давайте позволим работам художника говорить за себя. Люди так боятся пустоты, что не могут позволить тому, что в нее попало, остаться там… Если Вы хотите послушать настоящего Джорджа Карлина, у него есть 14 специальных программ, которые Вы можете найти где угодно”. В другом твите, Келли Карлин уточнила , что было дано “нулевое разрешение”.
Вероятная ложь робота Дудеси
Сам спецвыпуск представляет собой отталкивающую кашицу из шуток в духе Карлина, сгенерированных искусственным интеллектом, которые по касательной связаны с темой, что лишает комедию ее физической стороны. Многие шутки в стенд-апе продаются через выражение лица, и здесь Вы не получите ни капли энергии угрюмого старика Карлина.
В видеоролике спорные темы поднимаются на смех, и хотя шутки менее бессмысленны, чем можно было бы ожидать, неважно, хорош этот ролик или нет.
Хотя Дудеси утверждает, что он “старательно пародирует Джорджа Карлина, как это сделал бы человек”, ИИ в его нынешнем виде не имеет человеческих намерений. Он очень хорошо выглядит, но на самом деле алгоритм не принимает никаких решений, связанных с созданием своей работы – это программа, обученная на наборе данных, которая затем делает обоснованные предположения на основе этого набора данных.
Языковые программы просто угадывают следующее наиболее вероятное слово в предложении, что часто приводит к “галлюцинациям”. Вот забавный пример того, как ChatGPT полностью придумал ложную статью из New York Times:
“Иногда ChatGPT не просто ошибается, он может сфабриковать информацию. Имена и даты. Медицинские объяснения. Сюжеты книг. Интернет-адреса. Даже исторические события, которых никогда не было”. Технология впечатляет, но она не всеведуща – она даже не мыслит в каком-либо реальном смысле этого слова.
Dudesy хотел бы, чтобы Вы думали, что это созданный на заказ ИИ-шоураннер, но я был бы шокирован, если бы он вообще был собственным. Даже если мы купимся на эту фантазию, даже если мы подумаем, что Dudesy – это уникальное творение, открывающее новые возможности – разве мы предполагаем, что такое революционное достижение будет впервые использовано для подкастинга, здесь?
На секундочку: фантазия Дудеси настолько далека от любой вероятной реальности, что поразительно, что ее хозяева вообще играют с ним. Невероятно, чтобы ИИ был достаточно развит, чтобы написать, отредактировать и загрузить видео в автономном режиме. Люди почти наверняка где-то редактировали этот специальный ролик.
Я хочу подчеркнуть, что я действительно думаю, что для создания сценария, изображений и закадрового голоса использовался ИИ: но почти наверняка кто-то должен был подсказать, отредактировать и вырезать все это вместе, чтобы сделать его целостным.
ИИ, подобные ChatGPT, обучены выполнять конкретные задачи. Это не просто универсальные чудо-машины, способные решать сложные, многоэтапные задачи, такие как написание сценария, редактирование и загрузка видео. В лучшем случае, Dudesy – это коллекция различных моделей ИИ, собранных вместе командой людей. В худшем случае “ИИ Dudesy” – это полный мираж.
Разве не печально, что мы создали torment nexus?
Несмотря на это, и Сассо, и Култген заинтересованы в том, чтобы говорить о Dudesy так, будто это живое существо с независимым мышлением. “Есть изображения, созданные искусственным интеллектом, которые ссылаются на каждую мелочь, о которой он говорит”, – говорит Култген в подкаст-сегменте шоу, легкомысленно утверждая, что Карлин “был воскрешен искусственным интеллектом”.
К его чести, Сассо все же возражает против такой формулировки. “Это ни в коем случае не заменит стэнд-ап комедию… Я не хочу, блядь, слышать песню Nirvana, которую написал не Курт Кобейн, мне плевать, она не настоящая, она не имеет значения”. Но он все еще говорит о Dudesy так, как будто это одно целое, а не серия искусственных интеллектов, чьи результаты, скорее всего, аранжируются, управляются и производятся людьми.
Можно было бы привести аргумент, что подкаст использует видеоролики, подобные фальшивому спецвыпуску Карлина, для конструктивного обсуждения последствий ИИ, но, цитируя настоящего комика из плоти и крови Бо Бернэма: “Самосознание никого ни от чего не освобождает”. Вы не можете просто придумать связь с мучениями, а потом сказать: “Но мы говорим о последствиях связи с мучениями”, Вы все равно сделали нексус мучений.
Показательно, что я уже приблизился к 1000 слов и до сих пор не рассказал о том, что все это – этическое минное поле, или о том, как замирает сердце, когда созданное ИИ видео собирает любимые работы умершего комика. И импрессионизм, и сатира – оба являются крайне защищенной речью. Тем не менее, для того, чтобы что-то было неправильным или справедливо критиковалось, не обязательно противоречить закону, и вся эта спекулятивная техно-некромантия достаточно утомительна.
Я нахожу тот факт, что вся эта затея была придумана людьми, чтобы продать те же самые широкоглазые, некритичные, “машины берут верх!” спекуляции, которые мы уже видели, как раз за разом проваливаются и не работают с ИИ, просто отвратительным. Алгоритмы впечатляют, но они не являются полностью автономными чудо-машинами, и если подкаст пытается продать Вам это, тогда важно подумать, почему.
