Коронер назвал алгоритм Instagram причиной смерти британского подростка

На этой неделе в лондонском суде перед коронером Эндрю Уокером стояла непростая задача: ответить на вопрос, который защитники безопасности детей задавали в течение многих лет: насколько ответственны социальные сети за то, что алгоритмы контента скармливают несовершеннолетним? Дело Уокера касалось 14-летней Молли Рассел, которая покончила с собой в 2017 году после того, как просмотрела тысячи постов на таких платформах, как Instagram и Pinterest, пропагандирующих членовредительство. В какой-то момент во время дознания Уокер описал контент, который Расселу нравился или который он сохранил за несколько дней до ее смерти, как настолько тревожный, как заявил коронер в суде, что его «почти невозможно смотреть».

Сегодня Уокер пришел к выводу, что смерть Рассела нельзя считать самоубийством, сообщает Bloomberg. Вместо этого он описал ее причину смерти как «акт членовредительства во время депрессии и негативных последствий онлайн-контента».

Bloomberg сообщил, что Уокер пришла к этому решению на основе «активного» использования Расселом Instagram — отметок «Нравится», обмена или сохранения 16 300 постов за шесть месяцев до ее смерти — и Pinterest — 5 793 пинов за тот же период времени — в сочетании с тем, как платформы обслуживал контент, чтобы способствовать депрессивному состоянию Рассела.

«Платформы работали таким образом, используя алгоритмы, что в некоторых случаях приводили к периодам запоя с изображениями, видеоклипами и текстом», которые «романтизировали акты членовредительства» и «стремились изолировать и препятствовать обсуждению с теми, кто мог бы помочь», — сказал Уокер.

После решения Уокера семья Рассела выступила с заявлением, предоставленным Ars, назвав его знаковым решением и заявив, что суд даже не рассмотрел самый тревожный контент, с которым столкнулась Молли.

«Последние две недели были особенно болезненными для нашей семьи», — говорится в заявлении семьи Расселов. «Мы скучаем по Молли более мучительно, чем обычно, но мы надеемся, что тщательное изучение этого дела поможет предотвратить подобные смерти, вызванные тревожным контентом, который до сих пор доступен на платформах социальных сетей, включая те, которыми управляет Meta».

Bloomberg сообщает, что адвокат семьи Оливер Сандерс попросил Уокера «отправить инструкции о том, как предотвратить повторение этого в Pinterest, Meta, правительству Великобритании и регулятору связи». В своем заявлении семья призвала британские регулирующие органы быстро принять и обеспечить соблюдение Закона Великобритании о безопасности в Интернете, который, как сообщает New York Times, может ввести «новые меры безопасности для молодых пользователей во всем мире».

Защита от Pinterest и Facebook использовала разные тактики

Во время расследования Pinterest и Meta по-разному защищали свою политику. Pinterest извинился, заявив, что у него нет технологии, которая в настоящее время должна более эффективно модерировать контент, с которым столкнулась Молли. Но глава отдела здравоохранения и благополучия Меты Элизабет Лагоне расстроила семью, заявив суду, что контент, который просматривала Молли, считается «безопасным» по стандартам Меты.

«Мы слышали, как высокопоставленный руководитель Meta описал этот смертоносный поток контента, который алгоритмы платформы отправили Молли, как «БЕЗОПАСНЫЙ» и не противоречащий политике платформы», — написала семья Расселов в своем заявлении. «Если бы этот безумный след высасывающего жизнь контента был в безопасности, моя дочь Молли, вероятно, была бы жива».

Представитель Meta сообщил Bloomberg, что компания «привержена тому, чтобы Instagram был положительным опытом для всех, особенно для подростков», пообещав «внимательно рассмотреть полный отчет коронера, когда он его предоставит».

Семья Молли всегда хвалила Pinterest за его прозрачность во время расследования, призывая другие компании, работающие в социальных сетях, смотреть на Pinterest как на образец, когда имеешь дело с кем-либо, оспаривающим решения о политике в отношении контента.

«Сегодня впервые технологические платформы официально признаны ответственными за смерть ребенка», — говорится в заявлении Расселов. «В будущем мы, как семья, надеемся, что любые другие компании социальных сетей, призванные помочь в расследовании, последуют примеру Pinterest, которые предприняли шаги, чтобы извлечь уроки и искренне и уважительно участвовали в процессе расследования».

Bloomberg сообщил, что Pinterest заявил, что «история Молли укрепила нашу приверженность созданию безопасного и позитивного пространства для наших пиннеров». В ответ на это решение Pinterest заявил, что «продолжает укреплять» свою «политику в отношении контента, причиняющего себе вред».

Ни Pinterest, ни Meta сразу не ответили на запрос Арса о комментариях. [Update: Pinterest told Ars that its thoughts are with the Russell family, saying it has listened carefully to the court and the family throughout the inquest. According to Pinterest, it is “committed to making ongoing improvements to help ensure that the platform is safe for everyone” and internally “the Coroner’s report will be considered with care.” Since Molly’s death, Pinterest said it has taken steps to improve content moderation, including blocking more than 25,000 self-harm related search terms and, since 2019, has combined “human moderation with automated machine learning technologies to reduce policy-violating content on the platform.”]