Вчера чат-бот Snapchat с искусственным интеллектом вызвал смесь беспокойства и веселья, когда он, по-видимому, вышел из-под контроля. Несколько пользователей сообщили, что он создал видео с их стеной и потолком, опубликовал живую историю, а затем перестал отвечать, когда его спросили, обрел ли он разум…
Snapchat запустил собственного чат-бота с искусственным интеллектом на базе ChatGPT еще в феврале. Компания действительно предупредила в то время, что ей нельзя доверять – либо предоставлять точную информацию, либо хранить свои секреты.
Хотя My AI предназначен для предотвращения предвзятой, неправильной, вредной или вводящей в заблуждение информации, могут возникать ошибки. […] Как и все чат-боты с искусственным интеллектом, My AI склонен к галлюцинациям, и его можно обманом заставить сказать что угодно. Пожалуйста, имейте в виду его многочисленные недостатки и извините заранее!
Все разговоры с My AI будут восстановлены и могут быть пересмотрены для улучшения работы с продуктом. Пожалуйста, не делитесь никакими секретами с My AI и не полагайтесь на его советы.
Но, похоже, вчера все вышло на новый уровень, т.к. Си-Эн-Эн отчеты.
Пользователи Snapchat были встревожены во вторник вечером, когда чат-бот платформы с искусственным интеллектом опубликовал живое обновление в своем профиле. […]
Публикация живой истории (короткое видео о том, что казалось стеной) для просмотра всеми пользователями Snapchat было новым: эта возможность обычно предназначена только для пользователей-людей.
Поклонники приложения поспешили поделиться своими опасениями в социальных сетях. «Почему у My AI есть видео стены и потолка в их доме в качестве истории?» написал один пользователь. «Это очень странно и, честно говоря, тревожно». Другой пользователь написал после того, как инструмент проигнорировал его сообщения: «Даже у робота нет на меня времени».
Несколько пользователей разместили примеры в социальной сети, ранее известной как Twitter.
В одном забавном твите пользователь Snapchat спрашивал, почему чат-бот опубликовал историю. ИИ ответил, что столкнулся с технической проблемой. Когда его спросили, стал ли он разумным, Мой ИИ перестал отвечать.
TechCrunch отмечает, что Твиттер Пользователи X повеселились с этой идеей.
Snap признал наличие проблемы, но сказал, что в ней нет разума.
Snap подтвердил, что проблема, которая была быстро решена прошлой ночью, была просто ошибкой. (Кстати, Мой ИИ не фотографировал вашу комнату.)
«У моего ИИ произошел временный сбой, который теперь устранен», — сказал представитель TechCrunch.
Изображение: Алекс Найт/Unsplash
