В интернете больше половины пользователей хотя бы раз сталкивались с агрессией. Она может выражаться как в единичных оскорбительных комментариях и сообщениях по поводу внешности, так и в спланированных массовых акциях травли. При этом россияне признаются, что испытывают агрессию в онлайне чаще, чем в реальной жизни. Жертвы кибербуллинга приобретают проблемы в личной жизни, на работе или учебе. Команда VK реализует ряд проектов, которые направлены на противодействие этому явлению.
Гид по VK Знакомствам
Команда VK разработала гид по знакомствам в интернете. С ноября 2021 году к компании существует собственная дейтинговая платформа VK Знакомства. Ныне это один из самых популярных сервисов VK. Активная аудитория VK Знакомств составляет почти 3 млн пользователей в месяц. Среди них, однако, встречаются мошенники, а тажке персоны, общение с которыми может стать дискомфортным и токсичным.
В гиде собрана информация о том, как вести себя во время переписки, на какие моменты в разговоре обращать внимание и как не стать жертвой мошенников. В специальных разделах есть и советы, которые помогут обезопасить себя во время личной встречи.
Чтобы обезопасить пользователей от нежелательных проявлений внимания, разработчики приложения встроили несколько полезных функций. Так, в VK Знакомствах всегда можно удалить собеседника, общение с которым представляется дискомфортным. Если попытки продолжить общение будут слишком настойчивы и неприятны, можно пожаловаться модераторам. Они незамедлительно займутся решением проблемы. Кроме того, всегда остается возможность задать интересующий вопрос напрямую модераторам на страничке FAQ.
Нейросеть против оскорблений
ВКонтакте — крупнейшая социальная сеть России, ежемесячная аудитория которой составляет 100 млн человек. Все эти пользователи генерируют 15 млрд сообщений в день. Неудивительно, что на площадке могут возникать конфликты и разногласия, а отслеживать вручную все это достаточно проблематично. И вот команда VK разработала и внедрила ВКонтакте нейросеть, которая способна самостоятельно находить ругательства, оскорбления и нецензурные выражения и блокировать их.
Работает этот алгоритм следующим образом: нейросеть определяет неподобающие слова, выражения и публикации и скрывает их под специальной плашкой с предупреждением. Смотреть скрытые материалы или нет, решает сам пользователь. При желании он может настроить фильтры нейросети под себя. Для запуска этого инструмента искусственный интеллект анализировал миллионы записей пользователей и особенности их поведения в сети. Изначально нейросеть запустили в сервисе VK Клипы — пользователи положительно оценили новую фичу.
Режим «Личное пространство»
ВКонтакте теперь можно включить режим «Личное пространство». С его помощью можно ограничить себя от нежелательного внимания на период до семи дней. Активировать режим просто — нужно всего лишь нажать одну кнопку во вкладке «Приватность». По истечении семи дней процедуру можно повторить. Что же дает режим? Коммуницировать с пользователем смогут только друзья или друзья друзей, добавляться в друзья — только друзья друзей.
Профиль пользователя станет закрытым от незнакомых лиц, добавлять такую персону в чаты или отмечать на снимках также смогут только друзья. Режим призван помочь людям, столкнувшимся с агрессией в своей адрес, сталкингом или нежелательным вниманием. Если пользователь ранее оставлял жалобы на действия других лиц или на оскорбительные комментарии, попробовать новый режим ему предложат алгоритмы.
Борьба с нецензурными выражениями и комментариями
Пользователи ВКонтакте имеют возможность блокировать выражения с обсценной лексикой, которые появляются в комментариях и постах. Для этого юзерам необходимо перейти на вкладку «Настройки» и включить соответствующий фильтр. В результате алгоритмы социальной сети будут заменять найденные в постах нецензурные выражения и слова специальными символами.
При желании пользователь всегда может просмотреть скрытое слово или словосочетание в оригинале. Рядом с такими сообщениями появится специальная плашка, которая предложит пользователю несколько действий на выбор. Пока алгоритмы умеют определять плохие слова только на русском языке.
«Пожаловаться» модераторам
ВКонтакте использует максимально эффективный комплекс мер — гибридный метод модерации. Мы не только максимально оперативно реагируем на обращения пользователей и общественных организаций, а также официальные запросы, но и проводим проактивный внутренний мониторинг. Наша команда тщательно проверяет каждую жалобу — и удаляет материалы, не соответствующие правилам.
Если пользователи столкнулись с оскорблениями, нападками или другой угрозой, они могут сообщить нам об этом с помощью кнопки «Пожаловаться». Она есть у профилей, сообществ, записей, комментариев, фотографий, видео, историй. Мы рассматриваем все жалобы без исключений. Пожаловаться на сообщение еще проще — нужно его выделить и нажать кнопку «Это спам». В этом случае команда модерации сразу же получает сигнал о подозрительной ситуации и приступает к решению проблемы – время рассмотрения жалобы составляет 1-3 минуты
«Одноклассники»
Вторая по популярности среди российских пользователей социальная сеть «Одноклассники» также располагает рядом инструментов для противодействия оскорбительному и травмирующему контенту.
В «Одноклассниках» существует Центр безопасности пользователей в ОК. Основная задача проекта — оградить пользователей от мошеннических и оскорбительных действий и защитить аккаунты. Разработчиками создали нейросеть для борьбы с агрессивными комментариями. Она самостоятельно анализирует тексты и изображения и делает вывод, содержат ли они что-то оскорбительное или токсичное. Затем модераторы на основании оценки нейросети принимают решение о блокировке контента или пользователя. Помимо этого, в Центре безопасности собраны правила безопасного и корректного общения в соцсети.
Настроить ограничение чувствительного и оскорбительного контента может и сам пользователь. В настройках доступны функции фильтрации нецензурной лексики, ограничения общения с пользователями, которые не состоят в списке друзей. Дополнительно можно настроить свою ленту новостей так, чтобы в ней не отображался контент чувствительного содержания, а в переписке с незнакомцами скрывались травмирующие изображения и фразы.
Mail.ru
Больше всего от травли и оскорбительного контента в сети страдают дети. В VK создали специальную безопасную почту для детей kids.mail.ru. Детскую почту создают родители и привязывают ее к основному аккаунту. Родители получают возможность следить за всеми действиями ребенка при работе с почтой. Алгоритмы защищают детей от спама, подозрительного и травмирующего контента.
Если ребенку пишут с незнакомого аккаунта, такое сообщение сперва попадает на проверку родителям, прежде чем его увидит основной адресат. В детской почте также отключена реклама, поэтому ребенок не увидит коммерческие объявления с неподобающим содержанием. Все настройки остаются под контролем родителей, так что можете быть уверены, что ребенок специально или случайно не дезактивирует защитные функции.
VK Добро
В экосистеме компании существует проект VK Добро. Это сервис добрых дел. Например, там осуществляется сбор денег для поддержки людей, попавших в трудную жизненную ситуацию. В ноябре 2023 года проект открыл сбор средств для поддержки организаций, которые помогают тем, кто каждый день сталкивается с агрессией — виртуальной и физической. Так, VK Добро планирует собрать 1 млн рублей до 17 ноября.
Кибербуллинг.нет
Команда VK создала специальный сайт Кибербуллинг.нет для информирования российских пользователей о проблеме буллинга в онлайн-среде. На платформе можно ознакомиться со всеми технологиями VK, которые направлены на борьбу с кибербуллингом. На сайте представлены данные последних исследований и другая полезная информация. Например, созданные совместно с программой Травли.net карточки. Они помогут тем, кто стал жертвой травли в сети, ее свидетелем или даже агрессором. Еще на сайте собраны контакты благотворительных организаций, которые помогают получить психологическую и юридическую поддержку, если вы столкнулись с насилием или его последствиями.
Как быть информированными
День борьбы с кибербуллингом 11 ноября знаменует собой начало месяца борьбы с проявлениями буллинга в сети. С 11 по 30 ноября на всех платформах VK будут появляться материалы, которые посвящены этой проблеме. Узнать о других, не менее важных датах и событиях вы можете из Гик-календаря — совместного проекта Hi-Tech Mail.ru и YouTube-канала Droider. В нем вы найдете культовые даты для любителей гаджетов, гик-культуры и IT-событий.
Тем временем команда проекта Hi-Tech Mail.ru также выпускает материалы о разных проявлениях кибербуллинга и способах борьбы с ними. Недавно на сайте проекта вышла статья про злые комментарии в соцсетях, также мы писали о том, что такое кибербуллинг и как он влияет на взрослых людей.
