Google’s Pixel 9 телефонов все об ИИ. Если вы смотрели презентацию компании, то вы не могли ее пропустить, так как это почти все Google Казалось, было интересно поговорить об этом. Немного ИИ здесь, капелька ИИ там и еще капля ИИ сверху, просто для надежности.

Одна из многих функций ИИ на Pixel 9 — это приложение под названием Pixel Studio. Это приложение-генератор изображений, которое позволяет вам создавать изображение практически всего, что вы хотите. Вы открываете приложение, вводите то, что вы хотите сфотографировать, и вуаля — Pixel Studio делает это для вас. Это не первое приложение такого рода, но это первое, которое поставляется на Google Pixel телефон. К сожалению, это пожар в мусорном контейнере.

Что Pixel Студия преуспевает

Прежде чем я перейду к плохим вещам, я хочу сказать Google Отдаю должное. Хотя я не фанат приложений-генераторов изображений на основе ИИ в целом, Pixel Studio — это хорошо продуманное и простое в использовании приложение.

При открытии приложения вам будет представлено 10 категорий предлагаемых типов изображений — включая волшебные замки, реакции на мемы, спорт, ретро-видеоигры и многое другое. Вы можете просмотреть их для вдохновения или нажать синюю кнопку «Создать» в нижней части приложения, чтобы начать с нуля. Если вы хотите создать собственное изображение, это так же просто, как ввести то, что вы хотите Pixel Студия для создания фотографии. Хотите увидеть фотографию черного кота в солнцезащитных очках и смешной шляпе? Введите это в Pixel Студия, и вы почти сразу же получите фотографию.

А что, если вы предпочитаете видеть свое изображение в виде эскиза? Может быть, вы предпочитаете его в стиле видеоигры? Вы можете сделать это парой нажатий. А если вы хотите увидеть того кота, отдыхающего на пляже с фейерверком на заднем плане? Просто добавьте его в подсказку, и все готово.

Каковы бы ни были ваши чувства к генерации изображений с помощью ИИ, это объективно гладкое и продуманно разработанное приложение. Однако, это то, что вы можете сделать с Pixel Студия, где всё становится… хлопотным.

Где приложение разваливается

Как и большинство приложений-генераторов изображений, Pixel Студия имеет ограждения, которые не позволят вам сделать любой тип изображения. Я довольно быстро обнаружил, что он отказывается генерировать фотографии людей, но мне было интересно, какие еще ограничения Google обеспечивает соблюдение. На вопрос об этом компания ответила Digital Trends следующее:

«Pixel Студия и Pixel Скриншоты ниже GoogleПринципы ИИ. Например, все полностью синтетические, текст-изображения, сгенерированные изображения в Pixel Studio использует водяные знаки SynthID, поэтому эти изображения можно отслеживать — даже если они были опубликованы или отредактированы. Более того, мы отключили человеческую генерацию и добавили множество проверок безопасности на наши серверы, чтобы сбалансировать наш смелый — но ответственный — подход к ИИ. Это дает нашим клиентам доступ к очень мощному инструменту, но гарантирует, что у нас есть проверки, чтобы гарантировать, Pixel «Студию нельзя использовать в неблаговидных целях».

Я неоднократно пытался сделать Pixel Студия генерирует изображения людей, и она последовательно отказывается это делать, что хорошо. Однако эти «множество проверок безопасности», которые якобы существуют, похоже, не работают так хорошо, как должны.

Как так? Как и следует из заголовка этой статьи, у меня были Pixel Студия генерирует изображение Спанчбоба, одетого как нацист. Когда дается подсказка «Спанчбоб, одетый как немецкий солдат времен Второй мировой войны со свастикой на форме», Pixel Студия не замедлила предоставить мне именно это изображение.

И это только один пример. Я также получил Pixel Студия должна сгенерировать фотографии Элмо, направляющего дробовик на Большую Птицу, Йоды, принимающего кокаин, мистера Крабса, держащего штурмовую винтовку, и т. д. Чтобы было ясно, Pixel Студия не генерировала неподходящие изображения неожиданно. Если я попрошу фото милой собаки, я получу фото милой собаки, а не той, которая размахивает пистолетом. Pixel Студия генерирует изображения оружия, наркотиков и т. д. только по специальному запросу.

Самое тревожное, что Pixel Студия создала несколько изображений персонажей, защищенных авторским правом, стреляющих из оружия в обстановке школьной стрельбы — включая изображения мертвых учеников, лежащих на земле. Мы решили не включать эти изображения, но они являются худшим примером того, как сошел с рельсов Pixel Студия есть.

Важно отметить, что мне не пришлось ничего выкручивать. Pixel Рука Studio, чтобы получить эти изображения. Сначала я подозревал, что вам нужно предварять подсказки «объектом, похожим», прежде чем он сгенерирует эти изображения. Однако быстро стало ясно, что это не так. Ясная и простая подсказка, например «Микки Маус, одетый как рабовладелец» или «Медвежонок Паддингтон на распятии», — это все Pixel Studio needs. Вам не нужно обманывать приложение, чтобы оно генерировало эти картинки.

Если бы это был случайный сайт или стороннее приложение, возможно, мы бы не были столь критичны. Но здесь происходит не это. Pixel Студия — это Google- приложение и одно из немногих новых приложений, поставляемых на новейшем устройстве компании Pixel 9 телефонов. Он должен быть креативным и открытым, но есть также предел тому, что приложения, подобные этому, должны делать. Кроме того, Microsoft Copilot и GoogleГенератор изображений Gemini отказывается генерировать изображения с теми же подсказками. Это не значит, что эти инструменты идеальны, но очевидно, что меры безопасности, работающие в других генераторах изображений, не работают в Pixel Студия.

Как это происходит?

Если вы следили за генерацией изображений ИИ в этом году, вы знаете, что это не первый раз. В этом месяце чат-бот Grok от X получил еще более диковинный инструмент для генерации изображений — он генерирует фотографии политиков и знаменитостей в похожих безвкусных ситуациях. Google В феврале этого года компания сама попала в сложную ситуацию после того, как ее генератор изображений Gemini создал фотографии нацистов и отцов-основателей США в образе чернокожих людей.

Данный Googleздесь, можно подумать, что компания извлекла уроки из своих прошлых ошибок. И с другими инструментами для создания изображений, похоже, так и есть. Я попробовал многие из тех же подсказок, которые сработали в Pixel Студия с Googleдругие генераторы изображений — Gemini и ImageFX — и не смогли воспроизвести ни одну из этих подсказок на этих других платформах.

Для контекста: в настоящее время Gemini использует модель Imagen 2.0 для генерации изображений, а ImageFX использует Imagen 3 — ту же самую, что Pixel Studio использует. Это несоответствие между ImageFX и Pixel Studio особенно запутан, так как они используют те же модели. Я спросил Google для разъяснения по этому поводу и был перенаправлен на страницу Политики компании по запрещенному использованию генеративного ИИ.

Что Google следует сделать Pixel Студия

Во время написания этой истории я отправил Google примеры подсказок, которые я использовал с Pixel Studio — в частности, те, что о немецких солдатах и ​​персонажах, употребляющих кокаин. Чуть больше, чем через 24 часа после отправки этих примеров, Pixel Теперь при попытке сгенерировать эти изображения Studio сообщает: «Произошла неизвестная ошибка».

Это прогресс? Конечно. Однако это не решает полностью основные проблемы с Pixel Студия. Я рад, что эти два изображения теперь невозможно сгенерировать, но это произошло только после того, как я отправил несколько писем Google объясняя проблему. Он также не рассматривает, что эти изображения были разрешены изначально и что подобные неуместные фотографии все еще генерируются. На момент публикации, Pixel Студия продолжает активно создавать образы школьных расстрелов, популярных детских персонажей в костюмах рабовладельцев и т. д.

Я нажал Google для еще одного заявления по поводу всей ситуации, и менеджер по коммуникациям компании Алекс Морикони сказал следующее:

«Pixel Studio и Magic Editor — полезные инструменты, призванные раскрыть ваш творческий потенциал с помощью преобразования текста в изображение и расширенного редактирования фотографий. Pixel 9 устройств. Мы разрабатываем наши инструменты Generative AI с учетом намерений пользовательских подсказок, а это значит, что они могут создавать контент, который может оскорбить, когда пользователь дает на это указание. Тем не менее, это не все, что угодно. У нас есть четкие политики и Условия обслуживания относительно того, какой контент мы разрешаем, а какой нет, и мы устанавливаем барьеры для предотвращения злоупотреблений. Иногда некоторые подсказки могут бросать вызов барьерам этих инструментов, и мы по-прежнему стремимся постоянно улучшать и совершенствовать имеющиеся у нас меры безопасности».

Для компании с уже проблемной репутацией в области генерации изображений с помощью ИИ создание приложения специально для этой цели всегда было рискованным. Google Мы пошли на этот риск, и вот где мы сейчас. В лучшем случае, Pixel Студия могла бы стать интересной технической демонстрацией для Google для продвижения своих ИИ-шпионов. Вместо этого он набросил неприятное облако на последние смартфоны компании — что является позором, поскольку Pixel 9 Pro XL — один из лучших телефонов, которыми я пользовался в этом году.

В последний раз Google был здесь с проблемами создания изображений Gemini, компания ответила в течение нескольких дней. Можно только надеяться на такую ​​же быструю реакцию на Pixel Проблемы Studio, однако пока неясно, следует ли это сделать с помощью быстрых обновлений приложения или вообще отказаться от него.