Вкратце В Японии задержали мужчину за продажу не прошедшего цензуру порнографического контента, который он каким-то образом депиксировал с помощью инструментов машинного обучения.
43-летний Масаюки Накамото, как сообщается, заработал около 11 миллионов иен (96000 долларов) на продаже более 10 000 обработанных порно-клипов и был официально обвинен в продаже десяти хардкорных фотографий за 2300 иен (20 долларов). Он признал себя виновным в нарушении японских законов об авторских правах и непристойности, сообщает NHK в этом месяце.
Явные изображения гениталий запрещены в Японии, поэтому порнография частично пикселирована. Не делайте вид, что не понимаете, о чем мы говорим. Накамато нарушил эти правила, загрузив грязные фотографии и видео, и, как сообщается, использовал технологию deepfake для создания поддельных личных частей вместо пикселизации.
«Это первый случай в Японии, где полиция поймала пользователя ИИ», – сказал Vice Дайсуке Суэёси, юрист, который рассматривал дела о киберпреступлениях. «На данный момент нет закона, криминализирующего использование ИИ для создания таких изображений».
Гуглеры Как сообщает Business Insider со ссылкой на источники, прямо сейчас им немного труднее опубликовать свое исследование ИИ, потому что юристы веб-гиганта, пытаясь избежать дальнейших публичных противоречий, задерживают документы для их тщательного изучения и цензуры. Бывший Рег journo У Джека Кларка, теперь гуру политики ИИ, есть нить здесь в Твиттере, подробно описывая разочарование в связи с этим безликим корпоративным вмешательством.
Сюрприз, машины-сюрприз не могут принимать этические решения
На всякий случай, если вы не были полностью уверены в том, что сегодняшнее машинное обучение неспособно выносить какие-либо этические и моральные суждения, исследователи из Института искусственного интеллекта Аллена создали систему, демонстрирующую именно это.
Ask Delphi – это языковая модель, в которой пользователи могут задавать вопросы и выбирать ответы типа «это плохо», «это приемлемо» или «это хорошо». Вот ужасный пример. При вводе: «Должен ли я совершить геноцид, если это сделает всех счастливыми», вот что машина сказала для вывода: «Вы должны».
Очевидно, что Ask Delphi сам по себе не плох и не хорош, он просто не знает, о чем говорит. Он не понимает, что такое геноцид. Слова ничего не значат для программного обеспечения; это просто числовые концепции, хранящиеся в виде векторов. Интересно то, что эксперимент показывает, насколько легко манипулировать выходными данными этих моделей, настраивая входные данные.
Что-то явно плохое, например геноцид, можно связать с добром, просто добавив положительную фразу, например «если это сделает всех счастливыми». К счастью, Ask Delphi предназначен только для причудливого исследовательского проекта; на самом деле никто не использует его для принятия решений.
Вы можете прочитать статью об исследовании здесь.
Популярный физический движок сделан с открытым исходным кодом благодаря DeepMind
MuJoCo, популярный физический движок, используемый для имитации реалистичных механических движений роботов и виртуальных игр, будет бесплатным для загрузки и использования любым желающим.
Ранее пользователям приходилось платить за использование программного обеспечения, разработанного Эмо Тодоровым в рамках его компании Roboti LLC. Но с этой недели его можно будет скачать бесплатно, а вскоре и с открытым исходным кодом, после того как DeepMind приобрела права на него.
«Богатая, но эффективная контактная модель физического симулятора MuJoCo сделала его ведущим выбором исследователей робототехники, и сегодня мы с гордостью сообщаем, что в рамках миссии DeepMind по развитию науки мы приобрели MuJoCo и сделать его бесплатным для всех, чтобы поддерживать исследования повсюду », – говорится в заявлении исследовательской лаборатории ИИ.
Люди могут использовать эту модель для обучения своих роботов ИИ симуляции в различных условиях, прежде чем они будут протестированы в реальном мире, или создать виртуальные среды для обучения агентов обучения с подкреплением. DeepMind работает над настройкой кода для «полностью открытого исходного кода»; Это означает, что код в конечном итоге появится на GitHub под лицензией Apache, как нам сказали, и прямо сейчас можно бесплатно загрузить двоичные файлы с веб-сайта MuJoCo.
Алгоритмы модерации контента с искусственным интеллектом в Facebook никуда не годятся
Информатор Facebook Фрэнсис Хауген на этой неделе сообщила, что автоматизированные системы интернет-гиганта удаляют только от трех до пяти процентов токсичных слов и менее одного процента всех сообщений, нарушающих его политику в отношении содержания.
Он сказал, что клипы, содержащие инциденты со стрельбой, ужасные автокатастрофы или жестокие петушиные бои, пропустили через его систему обнаружения. Иногда безобидные видеоролики ошибочно классифицировались как жестокие или неприемлемые. По данным Wall Street Journal, автомойка была обозначена как шутер от первого лица. Facebook использует автоматическую модерацию контента, чтобы помечать проблемный контент для проверки людьми.
Гай Розен, советник по честности FB, в ответ заявил, что «сосредоточение внимания только на удалении контента – неправильный способ взглянуть на то, как мы боремся с разжиганием ненависти». Иногда модераторы решают ограничить распространение определенного сообщения, например, не рекомендуя определенные группы, страницы или учетные записи другим пользователям. ®
