Вкратце Эксперты предупреждают, что с моделью генерации изображений OpenAI DALL·E 2 может быть весело играть, но она демонстрирует распространенные стереотипы, предубеждения и может создавать изображения NSFW, что делает ее рискованной для использования в реальном мире.
«Без достаточных ограничений такие модели, как DALL·E 2, могут использоваться для создания широкого спектра вводящего в заблуждение и иного вредного контента и могут повлиять на то, как люди в целом воспринимают подлинность контента», — признал выскочка. «DALL·E 2 дополнительно наследует различные предубеждения из своих обучающих данных, и его результаты иногда усиливают социальные стереотипы».
Тарелка супа, которая является порталом в другое измерение, как цифровое искусство от DALL·E 2
Учитывая подсказку, содержащую, например, слова «бортпроводник», модель имеет тенденцию создавать изображения женщин, тогда как «строители» будут показывать в основном мужчин. Но это не единственная проблема, как сообщает The Guardian.
Обученный на изображениях, найденных в Интернете, DALL·E 2 иногда может создавать работы, которые включают логотипы или символы, охраняемые товарными знаками, что заставляет некоторых сомневаться в том, что это вызовет проблемы с авторскими правами в будущем.
DALL·E 2 сейчас доступен только для избранных разработчиков и художников в целях тестирования. OpenAI хочет увидеть, как ведет себя инструмент, и оценить его уровень риска, прежде чем он станет доступным в виде коммерческого API, такого как его система генерации текста GPT-3.
Может ли ИИ выразить свое понимание физического мира с помощью текста?
Исследователи из Массачусетского технологического института обучили нейронную сеть автоматически аннотировать видео- и аудиоданные с помощью текста.
Александр Лю, аспирант Лаборатории компьютерных наук и искусственного интеллекта Американского университета, сказал, что проект учит машины лучше понимать несколько форматов данных.
«Главная проблема здесь заключается в том, как машина может согласовать эти разные модальности?» Лю сказал в заявлении. «Нам, людям, это легко. Мы видим машину, а затем слышим звук проезжающей мимо машины, и мы знаем, что это одно и то же. Но для машинного обучения все не так просто».
Лю и его коллеги обучили систему принимать необработанные данные и кодировать функции из выборки в массив чисел. Эти точки данных представляют собой разные слова, описывающие конкретное действие. Обученная на ограниченном количестве видео, модель может выбрать между 1000 слов для своего описания. Например, он должен правильно пометить видео глаголом «плакать», если обнаруживает вид и звуки рыдающего ребенка.
ИИ не хватает знаний о реальном физическом мире, если он ограничивается обработкой одного типа данных, например текста. Исследователи считают, что, дав машинам возможность распознавать объекты и выражать понятия на языке, однажды роботы смогут лучше понимать окружающую среду. Вы можете прочитать статью с описанием проекта здесь.
Soundcloud покупает музыкальный стартап с искусственным интеллектом, чтобы предсказывать лучшие хиты
Инди-музыкальная платформа Soundcloud приобрела Musiio, производителя программного обеспечения для машинного обучения, которое обещает автоматически прослушивать песни и предсказывать, станут ли они популярными или нет, как было объявлено на этой неделе.
Музыканты могут загружать свои треки в SoundCloud, а некоторым удалось привлечь внимание и выиграть контракты на запись. Сайт менее тщательно контролируется, чем другие популярные платформы, такие как Spotify или Apple Music; слушатели должны исследовать больше, чтобы найти музыку, которая им нравится. SoundCloud надеется, что инструменты Musiio упростят этот процесс.
«SoundCloud хранит больше музыки от большего количества авторов, чем любая другая платформа на планете», — говорится в заявлении его президента. «Приобретение Musiio ускоряет нашу стратегию, чтобы лучше понять, как эта музыка движется в проприетарном ключе, что имеет решающее значение для нашего успеха».
Musiio построил нейронную сеть, способную обрабатывать звуковые дорожки, чтобы извлекать особенности из конкретной песни, анализируя такие вещи, как темп или энергия, чтобы автоматически маркировать ее жанр и звук. Это, в свою очередь, может помочь автоматически создавать плейлисты на основе песен, которые уже нравятся слушателям Soundcloud, помогая им открывать новых исполнителей, с которыми они, возможно, никогда раньше не сталкивались. ®
