Facebook объявляет о начале внедрения алгоритмов искусственного интеллекта для поиска в постах и комментариях шаблонов, похожих на сообщения о суициде. Это упоминания о боли и грусти, а также вопросы «Ты в порядке?» и «Я за тебя волнуюсь». Найденные материалы проанализируют специалисты и вмешаются, если это уместно.
Кроме того, Facebook включает три группы инструментов, которые способны помочь избежать суицида. Так, человек может разместить запись, которая будет видна всем в ленте, либо же материал сможет увидеть друг или помощник из службы доверия. Также можно получить помощь от специалистов общественных организаций – Crisis Text Line, Lifeline и National Eating Disorder Association.
Цукерберг отметил, что самоубийство является второй по распространенности причиной смертности среди людей 15-29 лет. В социальной сети сервис, призванный помочь задумавшимся о суициде людям, появился в феврале 2016 года, однако доступен он был только жителям США, Австралии и Великобритании.
Начальник отдела, который разрабатывают систему, назвал данные меры «не просто полезными, но и критически необходимыми». Правда, пока новые функции доступны только жителям США.
По результатам сотрудничества с Роскомнадзором из Instagram удалили 321 ссылку на «группы смерти», сообщает ТАСС. После блокировки таких сообществ во «ВКонтакте» они переместились в другие социальные сети. Подростков вовлекают в опасную игру с помощью хештегов. Механизм работает практически в любой социальной сети.
Недавно в Instagram появилась функция, которая позволяет сообщить о тяжелом психологическом состоянии. Отметить фото или видео может любой пользователь, это анонимно. В ответ автору поста придет сообщение: «Кто-то увидел ваш пост и думает, что вам может быть морально тяжело в данный момент. Если вам действительно нужна помощь, мы будем рады помочь». Пользователь сможет позвонить в службу психологической поддержки, поговорить с другом или же получить совет, как связаться с психологом. Такие же возможности откроются после создания записи с тегом #selfharm (причинение себе вреда).
Социальная сеть создана, чтобы делиться красивыми картинками и милыми видео. Но есть и обратная сторона – так, два года назад китаянка под ником jojotsai1012 выложила в социальную сеть последние кадры перед самоубийством, и это не единичный случай.
А как обстоят дела в российских соцсетях?
«ВКонтакте»
Никто не может сказать точно, когда во «ВКонтакте» появилась первая «группа смерти». 16 мая прошлого года «Новая газета» опубликовала статью «Группы смерти (18+)» о том, как взрослые кураторы находят в сети уязвимых подростков и начинают с ними в группах и личных сообщениях опасную игру. Выполняя задание за заданием, дети чаще всего знают, что последним шагом в игре будет самоубийство. По результатам проведенного масштабного расследования был арестован один из администраторов популярной подобной группы.
Статья привлекла внимание чиновников и администрации социальной сети. Параллельно стали массово появляться «анти» группы смерти, участники которых активно выискивали подозрительные сообщества или профили, жаловались администраторам, инициируя блокировки. Модераторы блокировали группы, посвященные описанию способов суицида или оправданию этой темы, на регулярной основе, но после этой истории стали еще внимательнее просматривать сообщества и страницы.
Пресс-служба «ВКонтакте» заявляет:
Мы боремся с этим явлением как своими силами, регулярно проводя мониторинг сайта, так и реагируя на сигналы пользователей и регулятора — Роскомнадзора. Такие сообщества блокируются навсегда и без права обжалования.
В решении задачи специалистам «ВКонтакте» помогает фонд психологической помощи «Твоя Территория». Психологи помогают оперативно оказывать поддержку подросткам, находящимся в критической психологической ситуации.
Социальная сеть выступает против того, чтобы на теме подросткового суицида спекулировали, распространяя связанные с ней материалы. Пресс-служба «ВКонтакте» также рассказала о механизме работы:
Пресс-служба отмечает, что в зависимости от ответов, пользователю будет предложена помощь психологов фонда «Твоя Территория», советы по безопасности страницы или призыв не увеличивать популярность «групп смерти» даже в рамках борьбы с ними. Модераторы заявляют: безопаснее и эффективнее отправлять ссылки на подозрительные страницы пользователей и сообщества в службу поддержки «ВКонтакте» для дальнейшей блокировки в случае необходимости.
С февраля «ВКонтакте» блокирует страницы пользователей, которые используют хэштеги, связанные с так называемыми «группами смерти». После блокировки пользователю будет предложено сообщить о причинах публикации спорной записи, на основании его ответов будет определено, когда страница будет разблокирована, и дальнейшие действия.
«Одноклассники»
Администрация социальной сети всегда тщательно модерирует контент, который размещается на страницах и в группах. Как сообщает пресс-служба «Одноклассников»:
Мы внимательно относимся к безопасности детей в «Одноклассниках». В соцсети можно регистрироваться с 6 лет, ежемесячно в ОК заходят 8 млн детей и подростков. Опасный контент оперативно выявляется и блокируется – как с помощью автоматических фильтров, так и после дополнительных проверок модераторов. Служба модерации ОК регулярно мониторит информационное поле и проверяет группы, публичные посты и хэштеги. Все эти меры позволяют избежать распространения опасного контента в соцсети.
