Модераторы соцсетей. Как сохранить психику в работе с жутким контентом

Почему одна экс-модератор контента не могла пожимать никому руку три года после ухода с работы?
«Только с цифрами»
Психологическая помощь
«Только с цифрами»
Психологическая помощь
Ещё
Уволившись, я три года никому не пожимала рук. Я увидела, на что способны люди и насколько они отвратительны. Я не хотела ни к кому прикасаться. Общение претило мне.

Роуз Боуден рассказывает о своем опыте работы модератором контента в MySpace, где она должна была просматривать худшее, что было в этой соцсети, — чтобы всего этого не увидели остальные.

Ее прежняя профессия еще важнее теперь, когда соцсети стали чрезвычайно влиятельными, а пользовательский контент заполонил интернет.

В Facebook работают 7,5 тыс. модераторов — круглосуточно, по всему миру. Они вынуждены просматривать фото и видео с детским порно, зоофилией, обезглавливаниями, пытками, изнасилованиями и убийствами.

Офис модераторов в Эссене, Германия. Фото: Facebook
Офис модераторов в Эссене, Германия. Фото: Facebook

Селена Скола, одна из таких модераторов, сейчас судится с соцсетью из-за психологической травмы, нанесенной ей просмотром тысяч часов шокирующего контента.

Скола утверждает, что Facebook и его подрядчик Pro Unlimited не смогли обеспечить ее психологическую безопасность.

По ее словам, сейчас она страдает от посттравматического стрессового расстройства из-за всего, что ей пришлось увидеть в сети.

Ее дело, вероятно, прольет некоторый свет на скрытый для наших глаз мир модерации контента и поставит вопрос о том, должны ли люди вообще заниматься такой работой.

Сара Робертс, доцент Университета Калифорнии, изучала модерацию контента восемь лет. Она считает, что такая профессия — прямой путь к психическим расстройствам.

«Нет публичных исследований долгосрочных последствий этой работы, — говорит Сара Робертс. — Количество людей, работающих в этой сфере, растет в геометрической прогрессии, и нам уже пора начать беспокоиться».

«Нет никакого долгосрочного плана поддержки этих людей после увольнения. Ожидается, что они просто вернутся к нормальной жизни», — добавляет она.

«Только с цифрами»

Фото: BBC
Фото: BBC

Роуз Боуден работала в финансовой компании, пока в 2005 году не устроилась в MySpace. Уже в 2008 году она с радостью вернулась в свою прежнюю профессию, потому что работать в соцсети стало невозможно.

«Теперь я работаю только с цифрами», — рассказала она на конференции в прошлом году.

Но Роуз хочет знать, что случилось с командой модераторов, которых она тренировала на своей предыдущей работе.

«Что случилось со всеми этими людьми, которые по ночам смотрели видео отрубания голов? Важно это знать», — говорит она.

Когда Роуз начинала работать в ночные смены в MySpace, почти не было инструкций о том, как модерировать соцсеть.

«Мы сами придумывали правила. Смотрели порно и думали: бикини на тонких бретельках — это обнаженка? А сколько секса слишком много для MySpace? Изобретали правила по ходу работы», — вспоминает она.

Должны ли мы разрешать видео, где кто-то кому-то отрезает голову? Нет, а если это мультфильм? Если это «Том и Джерри»?

Сотрудникам не предлагали никакой эмоциональной поддержки, и она всегда говорила своей команде: «Это нормально — выйти, прогуляться. Можно и поплакать. Главное, чтоб вас не стошнило прямо на рабочем месте».

И когда дело доходило до просмотра контента, ее совет коллегам был: «Просто закройте на это глаза и тогда вы сможете все это как бы не видеть».

Психологическая помощь

Компания Facebook в прошлом году в своем блоге написала о своих модераторах контента как о непризнанных героях, которые сохраняют соцсеть безопасной для нас всех.

Компания признала, что эта работа — не для всех и что нанимают на нее только тех, кто сможет справиться с «неизбежными вызовами профессии».

Страна, в которой Facebook помог разжечь ненависть к мусульманам «Фейсбук» удалил аккаунты с фото якобы больного раком ребенка «Я была модератором “Фейсбука” и захотела к психологу».

Но несмотря на обещания позаботиться об этих людях, Facebook отдает эту работу внешним подрядчикам.

Профессор Робертс считает, что такая практика — способ снять с себя ответственность.

«В IT-индустрии работу часто передают подрядчикам. Это снижает издержки, но и допускает определенную организационную дистанцию, когда такие случаи, как со Скола, неизбежны», — говорит он.

Чем больше люди делятся онлайн-контентом, тем важнее его квалифицированная модерация. Фото: depositphotos
Чем больше люди делятся онлайн-контентом, тем важнее его квалифицированная модерация. Фото: depositphotos

Facebook проверяет кандидатов в модераторы на психологическую устойчивость еще на этапе отбора. Все они проходят минимум 80 часов работы под руководством инструктора в симуляции системы, прежде чем им дадут работать с реальной соцсетью.

Компания наняла четверых клинических психологов, и у всех модераторов контента есть к ним доступ.

Питер Фридман руководит компанией LiveWorld, которая уже 20 лет предоставляет услуги модерации контента таким гигантам как AOL, eBay и Apple.

По его словам, сотрудники крайне редко пользуются психологической помощью. Профессор Робертс не удивлена.

«Если условие работы — умение справляться со стрессом, они не хотят, чтобы наниматель думал, что они на это неспособны, — говорит профессор Робертс. — Сотрудники опасаются, что на них тут же навесят ярлык, если они воспользуются этими услугами».

Фото: depositphotos
Фото: depositphotos

У LiveWorld сейчас за плечами уже больше миллиона часов модерации контента, и Фридман может дать несколько советов.

  • Важно, какая в компании культура вокруг модератора. Они должны чувствовать уверенность в себе. Если давать стажерам изображения с насилием над детьми, это может испортить атмосферу во всей компании.
  • В компании должна быть спокойная атмосфера, а не как в колл-центре. Модераторы должны чувствовать нашу круглосуточную поддержку.
  • Смены должны быть относительно короткими. Для самого отвратительного контента — от 30 минут до 3,5 часов.
  • Работа может не подойти религиозным или слишком консервативным людям, которым сложнее иметь дело с таким контентом.
  • Идеальный кандидат — тот, кто уже принимает соцсети со всеми их плюсами и минусами и кто может честно сказать: «Мне нужен перерыв — на день, на неделю или на месяц».
  • Нужна эмоциональная зрелость. Студент колледжа справится хуже, чем женщина, успевшая стать матерью.

Компания Facebook признает, что модерация контента в сегодняшних масштабах — это все еще во многом неизведанная территория.

«В какой-то степени мы вынуждены учиться на ходу», — признала администрация этой соцсети в своем блоге.

Это тоже интересно: