Вкратце Нейронные сети могут правильно угадать расу человека, просто взглянув на рентгеновские снимки его тела, и исследователи понятия не имеют, как это определить.

Существуют биологические особенности, которые могут дать ключ к разгадке этнической принадлежности человека, например цвет его глаз или кожи. Но за всем этим людям трудно сказать. Согласно исследованию, которое еще не прошло экспертную оценку, это не относится к алгоритмам искусственного интеллекта.

Группа исследователей обучила пять разных моделей рентгеновским снимкам различных частей тела, включая грудь и руки, а затем пометила каждое изображение в соответствии с расой пациента. Затем системы машинного обучения были протестированы на предмет того, насколько хорошо они могут предсказать расу кого-то только по результатам медицинского сканирования.

Они были на удивление точны. Согласно статье, худший из них смог предсказать правильный ответ в 80% случаев, а лучший – в 99%.

«Мы демонстрируем, что медицинские системы искусственного интеллекта могут легко научиться распознавать расовую принадлежность на медицинских изображениях, и что эту способность чрезвычайно сложно изолировать или смягчить», – предупреждает команда. [PDF].

«Мы настоятельно рекомендуем всем разработчикам, регулирующим органам и пользователям, которые занимаются анализом медицинских изображений, рассматривать использование моделей глубокого обучения с особой осторожностью. При использовании данных рентгенографии и компьютерной томографии расовую идентичность пациента можно легко узнать из одни только данные изображений обобщаются для новых условий и могут служить прямым механизмом для увековечения или даже усугубления расовых различий, существующих в современной медицинской практике ».

Запрет инструментов искусственного интеллекта для обнаженной натуры, заявил британский депутат

Мария Миллер, член парламента от Бейзингстока от Консервативной партии, считает, что алгоритмы машинного обучения, которые генерируют поддельные изображения обнаженной натуры, должны быть запрещены.

Эти так называемые «дипфейки» обрабатывались с помощью программного обеспечения ИИ в течение многих лет. В Интернете есть несколько инструментов, которые позволяют извращенцам загружать в алгоритмы чью-то фотографию и получать взамен ее обнаженное изображение. Лицо осталось прежним, но тело накрашено.

Миллер известен тем, что открыто говорит о порнографии мести. Она считает, что даже если изображения, созданные компьютером, являются поддельными, ущерб, нанесенный жертвам, реален.

«В настоящее время создание, получение или распространение без согласия интимных изображений сексуального характера в Интернете или с помощью цифровых технологий в основном выходит за рамки закона», – сказала она Beeb.

«Распространение сексуальных изображений в Интернете без согласия должно считаться сексуальным преступлением, что отражает серьезность воздействия на жизнь людей». Миллер хочет поднять этот вопрос на парламентских дебатах и ​​ввести новый закон, запрещающий программное обеспечение для создания дипфейков, в предстоящем британском законопроекте о безопасности в Интернете.

Исследователи искусственного интеллекта в Facebook хотят проникнуть в ваши секретные зашифрованные чаты, не расшифровывая их

Facebook нанял команду инженеров искусственного интеллекта, чтобы найти способы анализировать зашифрованные сообщения, не расшифровывая их предварительно.

Согласно The Information, гомоморфное шифрование может помочь бизнесу социальных сетей обнюхивать чаты WhatsApp для сбора данных, которые можно использовать для более точного нацеливания на пользователей с помощью рекламы. [paywalled].

Теоретически Facebook может выяснить, в каких продуктах и ​​услугах люди заинтересованы, используя методы гомоморфного шифрования. Рекламы этих товаров могут появляться всякий раз, когда они заходят в свои учетные записи в социальных сетях.

Похоже, что эти усилия возглавляет Кристин Лотнер, эксперт по криптографии, которая недавно покинула Microsoft после двух десятилетий, чтобы присоединиться к Facebook в качестве главы исследовательской группы ИИ Западного побережья. Однако представитель Facebook сообщил изданию, что этот проект «пока рано для нас рассматривать гомоморфное шифрование для WhatsApp». ®