Facebook работает над тем, чтобы предотвратить публикацию так называемого «порно из мести» — то есть несогласованного обмена откровенными фотографиями бывших партнеров и других лиц — и попыток сексуального вымогательства, особенно направленных против подростков.
Его первый инструмент, еще в 2017 году, был настолько страшным, что немногие хотели его использовать: вам нужно было загружать обнаженные тела в Facebook, чтобы они были помечены для блокировки! Но новый инструмент, изначально предназначенный для подростков, позволит им создавать цифровые отпечатки пальцев прямо на собственном устройстве…
Месть порно и сексторция
Порноместь — лучше называемое порно без согласия — становится все более серьезной проблемой. Там, где когда-то жестокий бывший мог лично показать фотографию нескольким друзьям, теперь обидчик может легко загрузить фотографии в социальные сети, что позволит потенциально сотням людей увидеть их.
Подростки также все чаще становятся жертвами «сексуального вымогательства», когда взрослый обманом заставляет их показать себя на веб-камеру, записывает кадры, а затем использует угрозу разоблачения либо шантажировать жертв в других действиях, либо требовать деньги.
Самцы-подростки чаще всего становятся жертвами «медовых ловушек». Привлекательная женщина-модель из приложения для знакомств, обычно изображающая из себя ровесницу, уговаривает жертв совершать действия перед веб-камерой, которую затем можно использовать для вымогательства.
Предыдущие подходы слишком страшны или ненадежны
Первый подход Facebook к этой проблеме заключался в том, чтобы позволить людям загружать свои собственные обнаженные тела в сервис, который затем создавал бы хешированный цифровой отпечаток пальца. Затем этот отпечаток будет использоваться, чтобы заблокировать других от попыток загрузить ту же фотографию.
Неудивительно, что немногие люди были готовы рискнуть и загрузить компрометирующие фотографии на Facebook, даже если для этого требовалось отправить изображение только самому себе.
Вторая версия использовала ИИ, чтобы попытаться идентифицировать проблемные изображения.
Си-Эн-Эн сообщает, что владелец Facebook и Instagram Мета теперь сотрудничает с Национальным центром пропавших без вести и эксплуатируемых детей (NCMEC) в гораздо лучшем подходе.
Take It Down, который управляется Национальным центром пропавших без вести и эксплуатируемых детей, впервые позволит несовершеннолетним анонимно прикреплять хэш — или цифровой отпечаток пальца — к интимным изображениям или видео непосредственно со своих собственных устройств, без необходимости загрузить их на новую платформу.
Чтобы создать хэш явного изображения, подросток может посетить веб-сайт TakeItDown.NCMEC.org, чтобы установить программное обеспечение на свое устройство. Затем анонимный номер, а не изображение, будет храниться в базе данных, связанной с Meta, так что, если фотография когда-либо будет опубликована в Facebook или Instagram, она будет сопоставлена с оригиналом, проверена и, возможно, удалена.
Аналогичный подход к заброшенному Apple сканированию CSAM
Если это звучит знакомо, то это потому, что это очень похоже на то, что Apple планировала использовать для сканирования известных материалов о сексуальном насилии над детьми (CSAM).
В этом случае NCMEC предоставил бы Apple цифровые хэши известных, существующих оскорбительных материалов; Apple будет создавать цифровые хэши фотографий на пользовательских iPhone; и тогда это вызовет ваш iPhone для запуска сканирования, сравнивающего два набора отпечатков пальцев. Если будет найдено несколько совпадений, соответствующие фотографии будут загружены для ручной проверки.
Тем не менее, были высказаны четыре опасения, в том числе способность авторитарных правительств заставить Apple проверять хеши протестных плакатов и тому подобное. Apple смогла развеять некоторые опасения, но не все, и впоследствии компания подтвердила, что отказалась от плана.
Система, разработанная Meta и NCMEC, не должна вызывать подобных опасений, поскольку iPhone владельцы свободно выбирают использование инструмента.
Фото: Мелани Вассер/Unsplash
