Сервис TikTok объявил об изменении системы модерации контента. Соцсеть начнет использовать автоматизированные системы проверки, которые будут искать и ликвидировать ролики с недопустимым содержанием: сценами секса и насилия, незаконными действиями и запрещенными товарами.
- Пользователям, чьи ролики будут удалены, система отправит уведомление. Авторы смогут подать апелляцию, если посчитают решение ошибочным.
- Внедрение автоматизированной проверки снизит нагрузку на модераторов соцсети. Как пояснил глава службы безопасности TikTok в США Эрик Хан, освободившееся время они смогут потратить на более сложные случаи. Например, когда речь идет о дезинформации или разжигании ненависти.
- Автоматическая проверка будет запущена в США и Канаде в ближайшие недели.
- TikTok в период пандемии стал очень популярен среди работниц секс-индустрии. Благодаря алгоритму рекомендаций они смогли быстро привлечь подписчиков, которых затем перенаправляли на платные ресурсы с контентом для взрослых. Кроме того, девушки оценили возможности обработки видео в TikTok.
- В 2019 году Google заблокировал загрузку приложения TikTok в Индии по просьбе властей. Причиной стало распространение порнографии. Кроме того, соцсеть удалила более 6 млн роликов, содержание которых посчитали недопустимым.
Как соцсети борются с запрещенным контентом
Вопросы модерации контента в соцсетях долгие годы остаются предметом споров. Например, Facebook, изначально придерживавшийся строгой политики относительно размещения любых изображений обнаженного тела, в 2014 году был вынужден разрешить демонстрировать кадры грудного вскармливания из-за шквала критики. Позже они по той же причине уточнили свою политику касательно фотографий после
- Вопросами безопасности на Facebook занимаются более 35 тыс. человек по всему миру. Компания также использует искусственный интеллект, чтобы идентифицировать запрещенный контент на основной платформе и в Instagram. В 2019 году компания даже поделилась своими разработками, чтобы помочь в борьбе с распространением детского порно в интернете. В 2020 году Facebook сообщил о более чем 20 млн случаев размещения подобного контента на основной платформе и в Instagram.
- В 2017 году компания начала также борьбу с публикацией порнографических фото и видео из мести. Изначально о размещении подобных снимков сообщали пострадавшие и их друзья, после чего уже опубликованный контент удаляли. Однако позже команда занялась разработкой ИИ, с помощью которого фото и видео должны быть заблокированы в момент загрузки.
- В первом квартале 2021 года из Instagram и Facebook удалили более 30 млн публикаций с эротическим содержанием, 8 млн, связанных с жестокостью и 5 млн — с сексуальной эксплуатацией детей. При этом последний показатель оказался значительно ниже, чем в 2020 году. В компании это объяснили сбоем в работе ИИ.
- Twitter допускает публикацию откровенного контента, но устанавливает запрет на размещение чужих фото и видео сексуального характера без их согласия. Пользователи могут пожаловаться на твиты, которые считают недопустимыми, и администрация рассмотрит жалобу.
Регулирование на законодательном уровне
В Германии в 2018 году вступил в силу закон о NetzDG, под который подпадают площадки с более чем 2 млн пользователей. Их обязали удалять запрещенный контент в течение 24 часов и предоставлять отчеты каждые полгода. За нарушение физлицам грозит штраф до €5 млн, а компаниям — до €50 млн. В разных странах Европы и в Великобритании также действуют собственные законы для контроля за распространяемым в соцсетях контентом.
В России, согласно законодательству, соцсети при выявлении запрещенного контента обязаны незамедлительно ограничить доступ к нему. Под запрет попадают порнографические материалы, пропаганда суицида, информация об изготовлении и употреблении наркотиков и тому подобное. В случае неудаления платформам грозят штрафы.
В Китае заблокированы популярные мировые соцсети. Аналогичные услуги предоставляются местными компаниями, такими как Weibo (аналог Twitter), WeChat (Facebook) и Youku (YouTube). В стране действует Государственная канцелярия по делам интернет-информации, контролирующая в том числе соцсети. На площадках запрещено обсуждение политических, экономических и других важных тем. СМИ также регулярно сообщают о штрафах, которые власти выписывают соцсетям за неудаление запрещенного контента, в том числе порнографии. Точные суммы штрафов не раскрываются.