Мнение Техника редко касается души. Это бесит, когда социальные сети обливают горячих голов бензином. Это вдохновляет, когда Хаббл возвращается к жизни, и вызывает еще больший космический трепет. Он оплачивает наши счета, когда мы в нем работаем, и опустошает наши карманы, когда мы пьем на eBay эту коллекцию старинных консольных игр. Но когда он возвращает мертвого любовника?
Это уже не научная фантастика. Скучающий инди-разработчик, находящийся в изоляции, решил использовать OpenAI GPT-3 для создания современного чат-бота на основе данных от персонажа фильма с ИИ. Он открыл его для общего доступа и получил минимальный интерес – пока парень по имени Джошуа не поместил разговоры десятилетней давности со своей покойной невестой Джессикой, чтобы он мог вроде как снова поговорить с ней. Это попало в газеты, потому что это трогательная и тревожная история, и поднялся трафик.
Все закончилось без происшествий. Джошуа двинулся дальше, а OpenAI, о котором сообщила пресса, обнаружил, что он не соответствует его этическим критериям и критериям безопасности. Первоначальный разработчик решил, что они не могут соответствовать этим требованиям, поэтому проект – и Джессика, которая оставалась в приостановленном состоянии – были закрыты.
За исключением, конечно, того, что это вообще не закончилось. Уже давно возникают вопросы о том, что происходит с цифровым следом людей после их смерти. Являются ли они активом, который можно передать? Следует ли их удалять при закрытии учетных записей? Но с учетом того, что социальные сети и системы обмена сообщениями теперь занимают так много времени в наших разговорах, что произойдет, если кто-то соберет все общедоступные материалы и прогонит их с помощью машинного обучения естественного языка, чтобы кого-то реанимировать? Вы можете убедить близких родственников, что это должен быть их выбор. Тем не менее, так много публично, что совершенно незнакомые люди могут создать виртуального вас. С каждым годом программное обеспечение становится лучше, вычислительные ресурсы становятся немного дешевле, препятствия на пути к этому снижаются.
Конечно, нет закона, прямо регулирующего это. Вы не можете использовать авторские права, товарный знак или запатентовать реальную личность. Выдача себя за живого – это действительная карьера, свободная от лицензионных требований. А закон, похоже, не хочет быть изобретательным только потому, что в нем задействованы технологии. На прошлой неделе в США судья постановил, что ИИ не могут запатентовать свои изобретения, так же как селфи обезьян не могут быть защищены авторским правом, поэтому каким бы ни был результат ИИ, юридически контролировать его будет нелегко.
OpenAI знает это, поэтому они и все остальные, у кого есть наполовину дурные предчувствия, так горячо развивают этику ИИ. Это не закон, это кодекс поведения. Коммерческий потенциал реанимации людей очевиден; выберите свою любимую мертвую знаменитость и проведите с ней весь вечер в сети.
Становится еще более странным. Чат-бот с кошельком для криптовалюты может реализовать ваши политические или культурные амбиции после вашей смерти, независимо от того, хочет этого кто-то или нет. Богатые автократы жаждут бессмертия, чтобы продолжить свое господство, но до сих пор им приходилось довольствоваться попытками основать династию – задача, которая, к счастью, обычно терпит неудачу, когда семья распадается. Теперь у них есть возможность продолжить вмешательство после их кончины. Смерть ограничивает диктаторские антиутопии, но как долго?
Возвращаясь к реальности, нет никаких сомнений в том, что такие вещи, как чат-боты со знаменитостями, скоро станут частью нашего мира. Если Abba может виртуально реформироваться и отправлять жутких Abbatars голографически скакать по сценам мира, почему бы не запрограммировать пару Bjornbot, чтобы привлечь фанатов, когда они вернутся домой. Такие вещи будут бесспорными, будут соответствовать хорошей этике и со временем могут даже выйти за рамки новизны. Они будут фильтроваться, контролироваться и быть безвредными – насколько это возможно.
Этические соображения OpenAI, как и многие исследователи и регулирующие органы, основаны на предотвращении вреда. Это может оказаться невозможным даже с самыми лучшими намерениями и дальновидностью. Когда во второй половине XIX века был популярен спиритизм, не было недостатка в трезвых исследователях, искавших научные объяснения, многие из которых исключали сверхъестественное – видения и голоса исходили из разума человека. Другие умели разоблачать шарлатанов. Но многие не хотели знать – тогда, как и сейчас, они предпочли верить и поддаваться влиянию интерпретации, которую они считали наиболее убедительной. Тогда, как и сейчас, это был канал мошенничества. Но когда кому-то просто нужен комфорт общения, разве это вредит? Обобщать невозможно. Придется отсосать и посмотреть.
Известно, что самый первый чат-бот, Элиза, удивил своего создателя, исследователя из Массачусетского технологического института Джозефа Вайценбаума, своей способностью обманывать. Запрограммированный в середине 1960-х, он использовал обработку списков для поиска ключевых слов в пользовательском вводе и построения простых ответов, имитирующих психотерапию того времени. Пользователи были очарованы и часто убеждались в его истинном интеллекте, поскольку секретарь Вейценбаума просила его покинуть комнату, чтобы она могла поговорить наедине. «Я не осознавал, – сказал он, – что чрезвычайно короткое воздействие относительно простой компьютерной программы может вызвать сильное бредовое мышление у вполне нормальных людей».
С этого момента прошло 50 лет. Один разработчик может создать систему, достаточно хорошую, чтобы вызвать эмоции тоскующего молодого человека симулякром его потерянной любви. Возможность вызвать психологическую зависимость или создать смесь дезинформации и харизматического убеждения в любом масштабе. Это не новые проблемы. Новым является повсеместное распространение систем, которые позволяют нам их потакать.
Трудно забыть образ Джошуа, восстановившего свою невесту, снова тихо прощающегося и закрывающего сеанс в последний раз, оставив в системе ровно столько баллов, чтобы вернуть ее, но так и не сделав этого. В отличие от просмотра старых фотографий, но не менее человечен, не более вреден. Новый вид бессмертия теперь в пределах досягаемости, и если история нашей культуры является чем-то особенным, мы обнаружим, что искушение непреодолимо. ®
