Pornhub начал выявлять педофилов по запросам пользователей. Кто и как борется с распространением детского порно

Что произошло

Порносайт Pornhub начал сотрудничать с благотворительными организациями, чтобы бороться с распространением контента, связанного с сексуальным насилием над детьми. Об этом пишет The Guardian. 

• Еще в марте MindGeek, владеющая Pornhub, внедрила в работу сайта чат-бота, который помог выявить фразы, которые вбивают в поисковую строку пользователи, ищущие детское порно. 
• В результате были определены 28 тыс. слов. Сейчас при их введении в поиск пользователю показывается сообщение о том, что он пытается найти нелегальный контент. Сразу после этого система задает пользователю несколько вопросов о его поведении и предлагает психологическую помощь.
• Согласно полученным от чат-бота данным, только в Великобритании за месяц осуществляется около 175 тыс. запросов, которые могут быть связаны с сексуальным насилием над детьми.
• Это первый случай использования чат-бота для поиска потенциальных преступников. На его разработку потратили 2 года. 

История вопроса

• СМИ отмечают, что компания MindGeek начала активно бороться с распространением порнографии на сайте только после того, как в 2020-м газета New York Times сообщила о распространении запрещенного контента на платформе. По информации издания, на Pornhub можно было найти снятые скрытой камерой ролики из душа, контент расистского и женоненавистнического характера, кадры удушения женщин полиэтиленовыми пакетами и детское порно. Как утверждала газета, руководство сайта игнорировало жалобы пользователей и зарабатывало на подобных видео.
• Многие несовершеннолетние, которые фигурировали в видео на Pornhub, совершали попытки суицида, были вынуждены были бросить школу, подвергались издевательствам и травле. 
• Организованное Mastercard расследование подтвердило наличие на Pornhub роликов с насилием над детьми. После этого компания отказалась от обработки платежей на порноресурсе. Этому примеру последовала Visa.
• Впоследствии MindGeek разрешила загружать на Pornhub контент только идентифицированным пользователям и убрала функцию его скачивания.

Контекст

До этого Pornhub неоднократно оказывался в центре скандалов.

• В 2014 году исследователь Конрад Лонгмор обнаружил, что реклама, размещаемая на некоторых популярных сайтах, содержала вредоносные программы, которые устанавливают вирусы на компьютеры пользователей без их разрешения. По его словам, Pornhub представляет в этом смысле наибольшую угрозу. В 2017 году компания Proofpoint нашла рекламу, размещенную на портале, куда была интегрирована программа, устанавливающая вредоносное ПО на компьютер пользователей. Этот баннер продвигали на сайте больше года без вмешательства Pornhub.
• В 2019-м журналисты Саманта Коул и Эмануэль Майберг выпустили статью о том, как порногигант разрушает жизни людей. Героини материала рассказывали, что снимались в видео для фирмы GirlsDoPorn. Им обещали, что ролики будут продавать на DVD для «коллекционеров», однако в итоге они оказались на Pornhub. Канал GirlsDoPorn вошел в двадцатку самых популярных на портале, видео суммарно набрали около 680 млн просмотров. Порногигант верифицировал страницу и зарабатывал на ней: короткие версии роликов можно было посмотреть бесплатно, а полностью они были доступны только по платной подписке, которая стоила $9,99. В порнофильмах GirlsDoPorn снялись около 400 девушек, 22 из них подали в суд на компанию. Они выиграли дело, получили $12,7 млн и права на свои видео. Организаторов съемок признали виновными в сговоре с целью секс-торговли, мошенничестве и сексуальном принуждении. Официальный канал GirlsDoPorn удалили с Pornhub, однако те же ролики, загруженные с других аккаунтов, неоднократно появлялись на сайте.

Проблемы с порнографическим контентом возникали и на других платформах.

• За 3 месяца 2020 года Facebook удалил 12,4 млн подобных изображений. Twitter по этой же причине закрыл 260 тыс. аккаунтов.
• Журналисты сообщали, что на OnlyFans также распространяется детская порнография. Они заметили, что несовершеннолетние пользователи обходят правила проекта, регистрируясь с помощью взрослых или самостоятельно. По их словам, модераторы сайта не справляются с проблемой.

Почему это важно

В 2021 году в интернете обнаружили 85 млн фотографий и видео с сексуальным насилием над несовершеннолетними. По сравнению с 2020 годом, число подтвержденных случаев сексуальной эксплуатации детей выросло на 64%. Британская организация Internet Watch Foundation заявила, что прошлый год «стал худшим» по числу материалов с сексуальным насилием над несовершеннолетними за всю историю наблюдений. Компании предпринимают различные меры для борьбы с подобным контентом.

• Так, еще в 2013-м Google и Microsoft разработали комплекс мер по борьбе с распространением изображений детского насилия. В результате 100 тыс. поисковых запросов в браузерах Bing (браузер принадлежит Microsoft) и Google на темы, связанные с жестоким обращением с несовершеннолетними, перестали выдавать результаты. Система обрабатывает запросы на 150 языках.
• Microsoft также разработал PhotoDNA — базу данных, которая преобразовывает обнаруженный подозрительный контент в уникальные цифровые коды, что позволяет быстро проверять большие объемы фотографий. По данным корпорации, с помощью сервиса удалось выявить и удалить из Сети миллионы нелегальных изображений. PhotoDNA используют в своих сервисах Meta и Twitter.
• В 2018 году Google создала алгоритм искусственного интеллекта, способный выявлять запрещенный контент. Пока он работает только в США. Алгоритм сканирует все доступные материалы, включая данные пользователей, во время их резервного копирования в облачные сервисы Google. На весь подозрительный контент сервис ставит маркер, который впоследствии должен проверить модератор компании. Если данные признают противоправными, то Google блокирует учетную запись пользователя и проводит проверку на наличие других запрещенных материалов, после чего отправляет отчет в CyberTipline — систему приема сообщений об эксплуатации детей в интернете в США.

Власти многих стран также пытаются защитить людей от вредоносных материалов.

• В 2018 году в Германии вступил в силу закон «О защите прав пользователей в социальных сетях», согласно которому любая платформа с аудиторией более 2 млн немецких пользователей обязана удалить или заблокировать противоправный контент в течение 24 часов с момента получения жалобы. За нарушение грозит штраф до €50 млн. Кроме того, соцсеть, получившая более 100 жалоб на незаконный контент в течение одного календарного года, должна каждые 6 месяцев публиковать отчет о принятых мерах по этому поводу.
• В 2021 году в Великобритании представили законопроект «О безопасности в интернете», в котором предусмотрена самостоятельная модерация контента владельцами онлайн-платформ. Согласно документу, компании, которые не будут защищать пользователей от вредоносного контента, оштрафуют на сумму до 10% от годового оборота или £18 млн (более €200 млн). Пока инициативу обсуждают в парламенте.

Фото обложки: Freepik