Ключевые выводы
- GoogleФункция обзора искусственного интеллекта может вскоре отключиться из-за веселых, но неточных предложений, таких как клей для сыра для пиццы.
- Данные Reddit, вероятно, подпитывают GoogleОбзоры искусственного интеллекта, которые могут привести к сомнительным результатам, например, к использованию клея при приготовлении пищи.
- Непредсказуемость ИИ — это вызов для Googleчто приводит к потенциально опасным результатам, вызывающим необходимость переоценки этой функции.
Если вы в последнее время не жили под камнем, то вы, вероятно, видели, как GoogleВ новой функции «Обзор искусственного интеллекта» утверждается, что вам следует использовать Nutella для охлаждения вашего компьютера вместо термопасты, использовать клей для загустения сыра для пиццы или производить горчичный газ для очистки стиральной машины. Это был беспорядок смешных размеров, и самое безумное в этом то, что трудно даже сказать, что именно. Google могу с этим поделать.
GoogleФункция «Обзор ИИ» недоступна в ЕС, но судя по тому, как идут дела, я мог видеть Google в ближайшем будущем отключим эту функцию для дальнейшей настройки. Похожая ситуация произошла с GoogleГенератор изображений Gemini в прошлом, и компания в конечном итоге отозвала его и перенастроила, прежде чем выпустить снова. Google говорит: «Генераторный ИИ является экспериментальным», и это предупреждение чрезвычайно уместно.
GoogleОбзоры искусственного интеллекта, похоже, частично созданы Reddit
Согласно сообщению еще в феврале от Рейтер, Google заключила сделку с Reddit на использование контента сайта в обучающих наборах для искусственного интеллекта. Пока Google и Reddit отказались от комментариев, один из полученных забавных результатов, кажется, подтверждает, что Reddit частично виноват. Один пользователь X (ранее Twitter) поделился снимком экрана Google велел им загустить сыр для пиццы… клеем. Позже кто-то нашел комментарий на Reddit, который был настолько похож, что поднял брови, хотя этот комментарий, первоначально опубликованный 11 лет назад, с тех пор был удален.
Конечно, давно бытуют утверждения, что для того, чтобы еда выглядела привлекательно в рекламе, компании используют в рекламных изображениях несъедобные вещества (например, клей). Вполне возможно, что Google уловил некоторые из этих комментариев, и ИИ сумел связать в своем обучении две совершенно разные концепции, но, учитывая, что сами Близнецы не дают подобных результатов, с ними определенно происходит что-то странное. Googleрезультаты, чего не происходит в других моделях.
Что мы можем предположить о данных, лежащих в основе ИИ
Это все обоснованные догадки
Во-первых, мы собираемся сделать ряд предположений о том, как Google использует функцию «Обзоры ИИ». Это полностью догадки и сделаны на основе известной нам информации и информации, предоставленной другими СМИ. Мы предполагаем, что Google для получения этих результатов использует совокупность данных Reddit, а также свои собственные данные.
Я подозреваю, что происходит следующее: Google либо использует версию своего Gemini LLM, обученную с более высоким весом, присвоенным данным Reddit, либо использует поисковую дополненную генерацию (RAG) для извлечения данных непосредственно из этого корпуса данных Reddit. GoogleМодель Gemma поддерживает RAG, поэтому мы знаем, что компания работает над ней в фоновом режиме. Как мы объясним, наиболее вероятно, что если Google использует данные Reddit, он использует RAG для получения этих данных в ответах.
В качестве базового объяснения RAG он повышает точность прогнозирования за счет использования внешнего набора данных во время вывода и объединения ответов с соответствующей информацией из документов, которые находятся в его наборе данных. Масштабируя это до дампа данных Reddit и собственных знаний модели, вы получите результаты, точно такие же, как те, которые мы видели. Как часто вы гуглили что-то, а затем добавляли в конец слова «Reddit», чтобы получить лучшие результаты? Я довольно многое себе представляю, и я тоже в этом виноват, и это именно то, что Google надеялся бы подключиться.
Чат с RTX — это инструмент, запущенный Nvidia в прошлом году и использующий RAG, поэтому вы можете понять, как он работает, если у вас есть видеокарта Nvidia и вы хотите ее опробовать. Что бы ни Google делает явно не работает, но что именно сложно сказать бы работать либо. Предполагая, что это установка, которая Google использует, то эту проблему чрезвычайно сложно решить без серьезного вмешательства человека.
Чат Nvidia с RTX соединит LLM с видео и документами YouTube локально на вашем компьютере.
Nvidia еще больше упрощает запуск локального LLM с помощью Chat with RTX, и это тоже довольно мощно.
ИИ по своей сути непредсказуем, и в этом проблема.
Это одновременно благословение и проклятие
ИИ автономен в том смысле, что его можно запустить и забыть, и, если не считать обучающих данных и обучения с подкреплением на основе обратной связи с человеком (RLHF), после его развертывания он довольно невмешателен. Такие компании, как OpenAI, с течением времени боролись с «взломами из тюрьмы» и тому подобным, но на самом деле ничего страшного из этого не вышло. Однако для контекста GoogleРезультаты обзора ИИ показывают, нравится вам это или нет, и представлены на одной из самых посещаемых веб-страниц в мире. Веб-страница, которую также используют пожилые и уязвимые люди. Напротив, ущерб, который могли нанести ChatGPT или другие LLM, ограничивался теми, кто их искал.
Эта непредсказуемость приводит к игре в «ударь крота», но Google не может объяснить все плохие результаты поиска, которые дает обзор AI. LLM галлюцинируют, а LLM, которые используют RAG на основе ответов Reddit… будут галлюцинациями на основе Reddit. Разве это не звучит ужасно? Я думаю, это звучит ужасно.
Даже если Google вводит полные ограничения на темы, по которым разрешены обзоры ИИ, вы всегда найдете лазейки. Судя по моему собственному тестированию, я подозреваю, что он заблокирован для использования, например, во всем, что связано с политикой, но вы, вероятно, сможете обмануть его, чтобы ответить на вопрос о предстоящих выборах, если вы действительно попытаетесь это сделать. Google мог запустите инструмент анализа настроений через данные Reddit, чтобы удалить предполагаемые «шутливые» ответы, но саркастический и сухой характер некоторых комментариев на Reddit может означать, что некоторые из них проскользнут. На самом деле, я бы удивился, если бы Google еще не пытался использовать анализ настроений, чтобы удалить некоторые подобные комментарии.
Вышеуказанное справедливо даже в том случае, если речь идет о конкретной программе LLM, которая Google обучались на данных Reddit, а не на использовании RAG, поскольку все еще существует проблема, связанная с необходимостью выяснить, какие данные необходимо удалить из обучающего набора. Вот почему я подозреваю, что здесь также есть компонент RAG, поскольку он позволил бы Google быстро и легко удалять проблемные ответы из базы данных, если они возникают, вместо необходимости изменять всю модель.
Что Google могу сделать следующее
Я подозреваю Google на данный момент откажется от обзоров ИИ
На данный момент я не понимаю, как Google продолжает работу с включением обзоров AI в поиске. Некоторые из результатов, которые видели пользователи, были откровенно опасными, а другие просто… неверными. Массово так. На данный момент это не представляет никакой ценности для пользователей, но ясно, что Google хочет, чтобы это сработало в какой-то момент. Как именно это произойдет, остается только догадываться, но предстоит еще много работы.
А пока вам придется смириться с GoogleРезультаты обзора ИИ. Не мажьте пиццу клеем, не охлаждайте компьютер с помощью Nutella и определенно делать нет приготовить горчичный газ для очистки стиральной машины.
