«Угольщики Кремниевой долины»: модераторы из Кении судятся с Meta* из-за слишком депрессивной работы

Что произошло

Модераторы из Кении подали в суд на компанию Meta, обвинив ее в небезопасных и несправедливых условиях труда.

• В служебные обязанности модераторов входит просмотр и удаление в Facebook публикаций, содержащих запрещенный политикой компании контент. В частности — ненависть, дезинформацию и насилие.
• Истцы заявили, что им не предоставляют психологической помощи и не дают возможности взять перерыв после просмотра шокирующего контента, например, видео с обезглавливанием. 
• Как сообщило издание TIME, модераторы в Кении являются одними из самых низкооплачиваемых работников Facebook в мире и получают $1,5 в час.
• Также СМИ пишут, что работодатели запугивают кенийских сотрудников и подавляют их попытки объединяться в профсоюзы.
• Как пишет TIME, у двух модераторов были диагностированы «психические заболевания, включая посттравматическое стрессовое расстройство (ПТСР), а также повышенная тревожность и депрессия». Некоторым сотрудникам официальных диагнозов не ставили, так как им просто нечем оплатить прием психиатра.

Почему это важно

• Как пишет TIME, без модераторов использование соцсетей может превратиться в «игру в рулетку», в которой любой пользователь может получить психологическую травму. Если такое произойдет, люди едва ли захотят их использовать, а бизнес не станет покупать там рекламу.
• TIME сравнил труд модераторов с работой добытчиков угля. И те, и другие выполняют важные функции, но при этом работают на «невидимом фронте с грязью, в ужасных условиях и за мизерную плату». 
• По мнению одного из сотрудников Meta, модераторы — это «угольщики Кремниевой долины».

Во многих компаниях существуют правила, помогающие модераторам сохранить ментальное здоровье: перерывы в работе, лимитированная нагрузка и предоставление психологической помощи. Однако на деле не все работодатели соблюдают эти условия, говорят их сотрудники.

Тенденция

• В 2019 году некоторые модераторы Facebook из США заявили, что постоянный просмотр мемов, контента с убийствами и конспирологией привел их к тому, что они начали верить в теории заговора, а чтобы бороться со стрессом, стали принимать наркотики.
• В том же году модератор Facebook, 23-летний Шон Спигл, заявил, что из-за регулярного просмотра контента с насилием столкнулся с депрессией, перестал заниматься спортом, начал много есть и набрал вес.

• В мае 2020 года Facebook согласился выплатить модераторам контента из США $52 млн в качестве компенсации за моральный ущерб после того, как они подали на компанию в суд.
• В 2020-м экс-модератор YouTube подала в суд на сервис — из-за просмотра видео с педофилией, зоофилией и каннибализмом у нее началась депрессия. По ее словам, из-за постоянной нехватки персонала модераторы регулярно перерабатывали. Сотрудники могли консультироваться с «инструкторами по здоровью». Но в иске говорилось, что у инструкторов не было медицинской подготовки. В итоге один из них посоветовал истцу «принять запрещенные препараты», а другой — «довериться Богу». В иске подчеркивается, YouTube сделал все, чтобы «защитить себя от ответственности». В частности, вынудил модераторов подписать документ о том, что их работа может вызвать ПТСР.
• В 2021-м о несправедливых условиях труда заявили модераторы WhatsApp. По их словам, за $16,50 в час им приходилось ежедневно «просматривать сотни видео с жестоким обращением с детьми», а на перерыв им давали не более 8 минут.
• В 2022-м бывшие модераторы контента в TikTok подали коллективный иск на компанию за «психическую травму». Одна из модераторов соцсети заявила, что вынуждена просматривать жестокий контент на протяжении всей смены (12 часов), а отдохнуть, по ее словам, можно лишь два раза по 15 минут.

За чем следить

Возможно, в будущем работу модераторов сможет взять на себя искусственный интеллект. Однако пока он не способен полностью заменить человека и нуждается в доработках. Например, в 2020 году ИИ заблокировал рекламу с изображением репчатого лука в соцсетях, посчитав его «откровенно сексуальным». 

• В 2021 году Facebook начал тестировать ИИ, который будет отслеживать токсичные комментарии в сообществах. 
• Facebook заявил, что система ИИ становится все более способной автоматически обнаруживать и удалять вредоносный контент. Однако «обучать» нейросеть по-прежнему должны люди, вручную маркируя запрещенные комментарии, изображения и видеоролики.
• YouTube тоже пытался заменить своих модераторов на ИИ, однако в 2020 году СМИ сообщили, что алгоритмы не смогли корректно оценить содержание видеороликов, и людям пришлось вернуться к работе.

Эксперты считают, что ИИ может «засечь» в Сети только явных правонарушителей, но при этом алгоритмы не выявят в контексте намеки, например, на расизм, поэтому без людей обойтись пока невозможно.

*Компания Meta признана в России экстремистской. Facebook и WhatsApp – продукты этой компании.

Фото обложки: freepik.com