Кто-то ищет возможности для самовыражения, другие — уединения, а третьи — одобрения. Поэтому перед бизнесом стоит задача не только предлагать новые форматы взаимодействия, но и создавать комфортное и гибкое пространство, способствующее повышению лояльности и вовлеченности пользователей. Под словосочетанием Цифровой комфорт мы обозначаем среду, которую продумываем с учетом технологий, потребностей и удобства пользователей.
Пространство комфорта
В основе нашей работы лежат открытость и удобство распространения информации. Мы стремимся создавать понятные инструменты учитывая, что каждый пользователь уникален, со своими ценностями и взглядами на жизнь. Среди аудитории ВКонтакте также миллионы пользователей младше 18 лет. Чтобы каждый чувствовал себя на площадке комфортно, мы уделяем особое внимание технологиям защиты от нежелательных материалов, спама и травли.
Например, мы предостерегаем от шокирующих материалов, даже если они размещены в образовательных целях. Для этого работает система предупреждений: пользователь может увидеть размытие на фото или видео, если на них изображены потенциально неприемлемые сцены или эмоционально тяжёлые эпизоды.
Этот подход защищает зрителей от контента, к которому они могут быть не подготовлены в данную минуту, а также если контент является нежелательным для определенных возрастных аудиторий или культурных контекстов. Такой контент определяется и автоматически размывается с помощью обученной нейросети, а пользователю остается решить, хочет ли он увидеть скрытое или нет.
ML-модели постоянно обучаются на пользовательских жалобах. Здесь соблюдается ключевой подход к соответствию времени и актуальности данных, так как модель, которая могла быть обучена несколько лет назад, не сможет выдавать ожидаемые вердикты на свежем контенте.
Учитываем контекст
Как уже упоминалось, на любой социальной платформе можно встретить людей с различными стилями общения и нормами поведения. Как часто бывает, в обсуждениях разгораются споры, может проскочить неоднозначное высказывание. Для тех, кто не готов сталкиваться с нецензурной лексикой, доступна технология, позволяющая скрыть мат в постах и комментариях, заменив его на набор символов.
По выбору пользователя высказывание можно отобразить в исходном виде. Этот фильтр также доступен для сообществ: по желанию руководителя группы соответствующие комментарии могут быть скрыты, а администратор получает возможность выбирать, как с ними взаимодействовать дальше.
В сообществах есть и другие инструменты, которые упрощают модерацию: они помогают авторам не опасаться, что под постами будут бесконтрольно разрастаться токсичные обсуждения. Токсичность и негатив — это не только обсценная лексика. Наша команда внедрила технологию, способную автоматически распознавать ругательства, оскорбления, обещания причинить вред здоровью или устроить расправу.
Модель способна распознавать и другие признаки нетерпимости — например, травлю по национальной или религиозной принадлежности — и скрывать их в отдельном блоке. Пользователи могут выбрать, просматривать ли отфильтрованные материалы. Нейросеть работает на основе ML-модели, обученной на уникальном датасете, состоящем из десятков миллионов комментариев, и умеет определять контекст.
Время для себя
ВКонтакте есть специальный режим «Личное пространство». Это специальный набор настроек, позволяющий на время ограничить круг общения, оградить себя от нежелательных собеседников и отдохнуть от лишнего внимания. Кроме включенных настроек приватности, после активации режима пользователи будут видеть в ленте новостей тематические материалы и рекомендации для улучшения ментального здоровья.
Если алгоритмы фиксируют на странице пользователя всплеск негатива — ругательства или оскорбления, соцсеть предупредит о возможной опасности и сама предложит активировать режим.
Всегда заботимся о детях
Для нас важно, чтобы детям было комфортно на площадке, поэтому уделяем особое внимание инструментам защиты от материалов, потенциально нежелательных для них. Администраторы сообществ могут установить возрастное ограничение, если публикуют контент, предназначенный для взрослой аудитории.
Такая же метка появится и в профиле, если его владелец публикует нежелательный для детей контент. Определить, что материалы сообщества предназначены только для совершеннолетних, помогают специальные алгоритмы.
Внедрение инструментов для создания гибкого и доверительного пространства становится неотъемлемой частью взаимодействия с аудиторией на социальных платформах. Инвестируя в его развитие, бизнес не только реагирует на тренды и изменения рынка, но и формирует долгосрочные отношения с пользователями. При этом важно, чтобы такие решения оставались ненавязчивыми и работали лишь в моменты, когда это действительно нужно.
