Уволившись, я три года никому не пожимала рук. Я увидела, на что способны люди и насколько они отвратительны. Я не хотела ни к кому прикасаться. Общение претило мне.
Роуз Боуден рассказывает о своем опыте работы модератором контента в MySpace, где она должна была просматривать худшее, что было в этой соцсети, — чтобы всего этого не увидели остальные.
Ее прежняя профессия еще важнее теперь, когда соцсети стали чрезвычайно влиятельными, а пользовательский контент заполонил интернет.
В Facebook работают 7,5 тыс. модераторов — круглосуточно, по всему миру. Они вынуждены просматривать фото и видео с детским порно, зоофилией, обезглавливаниями, пытками, изнасилованиями и убийствами.
Селена Скола, одна из таких модераторов, сейчас судится с соцсетью из-за психологической травмы, нанесенной ей просмотром тысяч часов шокирующего контента.
Скола утверждает, что Facebook и его подрядчик Pro Unlimited не смогли обеспечить ее психологическую безопасность.
По ее словам, сейчас она страдает от посттравматического стрессового расстройства из-за всего, что ей пришлось увидеть в сети.
Ее дело, вероятно, прольет некоторый свет на скрытый для наших глаз мир модерации контента и поставит вопрос о том, должны ли люди вообще заниматься такой работой.
Сара Робертс, доцент Университета Калифорнии, изучала модерацию контента восемь лет. Она считает, что такая профессия — прямой путь к психическим расстройствам.
«Нет публичных исследований долгосрочных последствий этой работы, — говорит Сара Робертс. — Количество людей, работающих в этой сфере, растет в геометрической прогрессии, и нам уже пора начать беспокоиться».
«Нет никакого долгосрочного плана поддержки этих людей после увольнения. Ожидается, что они просто вернутся к нормальной жизни», — добавляет она.
«Только с цифрами»
Роуз Боуден работала в финансовой компании, пока в 2005 году не устроилась в MySpace. Уже в 2008 году она с радостью вернулась в свою прежнюю профессию, потому что работать в соцсети стало невозможно.
«Теперь я работаю только с цифрами», — рассказала она на конференции в прошлом году.
Но Роуз хочет знать, что случилось с командой модераторов, которых она тренировала на своей предыдущей работе.
«Что случилось со всеми этими людьми, которые по ночам смотрели видео отрубания голов? Важно это знать», — говорит она.
Когда Роуз начинала работать в ночные смены в MySpace, почти не было инструкций о том, как модерировать соцсеть.
«Мы сами придумывали правила. Смотрели порно и думали: бикини на тонких бретельках — это обнаженка? А сколько секса слишком много для MySpace? Изобретали правила по ходу работы», — вспоминает она.
Должны ли мы разрешать видео, где кто-то кому-то отрезает голову? Нет, а если это мультфильм? Если это «Том и Джерри»?
Сотрудникам не предлагали никакой эмоциональной поддержки, и она всегда говорила своей команде: «Это нормально — выйти, прогуляться. Можно и поплакать. Главное, чтоб вас не стошнило прямо на рабочем месте».
И когда дело доходило до просмотра контента, ее совет коллегам был: «Просто закройте на это глаза и тогда вы сможете все это как бы не видеть».
Психологическая помощь
Компания Facebook в прошлом году в своем блоге написала о своих модераторах контента как о непризнанных героях, которые сохраняют соцсеть безопасной для нас всех.
Компания признала, что эта работа — не для всех и что нанимают на нее только тех, кто сможет справиться с «неизбежными вызовами профессии».
Страна, в которой Facebook помог разжечь ненависть к мусульманам «Фейсбук» удалил аккаунты с фото якобы больного раком ребенка «Я была модератором “Фейсбука” и захотела к психологу».
Но несмотря на обещания позаботиться об этих людях, Facebook отдает эту работу внешним подрядчикам.
Профессор Робертс считает, что такая практика — способ снять с себя ответственность.
«В IT-индустрии работу часто передают подрядчикам. Это снижает издержки, но и допускает определенную организационную дистанцию, когда такие случаи, как со Скола, неизбежны», — говорит он.
Facebook проверяет кандидатов в модераторы на психологическую устойчивость еще на этапе отбора. Все они проходят минимум 80 часов работы под руководством инструктора в симуляции системы, прежде чем им дадут работать с реальной соцсетью.
Компания наняла четверых клинических психологов, и у всех модераторов контента есть к ним доступ.
Питер Фридман руководит компанией LiveWorld, которая уже 20 лет предоставляет услуги модерации контента таким гигантам как AOL, eBay и Apple.
По его словам, сотрудники крайне редко пользуются психологической помощью. Профессор Робертс не удивлена.
«Если условие работы — умение справляться со стрессом, они не хотят, чтобы наниматель думал, что они на это неспособны, — говорит профессор Робертс. — Сотрудники опасаются, что на них тут же навесят ярлык, если они воспользуются этими услугами».
У LiveWorld сейчас за плечами уже больше миллиона часов модерации контента, и Фридман может дать несколько советов.
- Важно, какая в компании культура вокруг модератора. Они должны чувствовать уверенность в себе. Если давать стажерам изображения с насилием над детьми, это может испортить атмосферу во всей компании.
- В компании должна быть спокойная атмосфера, а не как в колл-центре. Модераторы должны чувствовать нашу круглосуточную поддержку.
- Смены должны быть относительно короткими. Для самого отвратительного контента — от 30 минут до 3,5 часов.
- Работа может не подойти религиозным или слишком консервативным людям, которым сложнее иметь дело с таким контентом.
- Идеальный кандидат — тот, кто уже принимает соцсети со всеми их плюсами и минусами и кто может честно сказать: «Мне нужен перерыв — на день, на неделю или на месяц».
- Нужна эмоциональная зрелость. Студент колледжа справится хуже, чем женщина, успевшая стать матерью.
Компания Facebook признает, что модерация контента в сегодняшних масштабах — это все еще во многом неизведанная территория.
«В какой-то степени мы вынуждены учиться на ходу», — признала администрация этой соцсети в своем блоге.
Это тоже интересно:
