Французский сервис Wizz позиционировал себя как безопасную площадку для знакомств подростков от 13 лет с механикой свайпов, как в Tinder. Приложение обещало разделять пользователей по возрасту через продвинутые алгоритмы ИИ, но реальность оказалась иной: взрослые мужчины легко обманывали систему и выходили на связь с детьми. Теперь Wizz удаляют из магазинов приложений, а Конгресс США готовит закон об ответственности платформ за безопасность несовершеннолетних.
Идея звучала логично: подросткам нужен способ найти сверстников без давления взрослых соцсетей, а ИИ должен проверять возраст и блокировать нарушителей. Разработчики хвалили «сложные алгоритмы безопасности», но тесты и криминальные дела показали обратное. Журналисты The Hill зарегистрировали аккаунт 28-летнему сотруднику под видом 16-летнего и система пропустила анкету без вопросов.
Реальные последствия оказались тяжелыми. На Гавайях 19-летний морпех познакомился в Wizz с 11-летней девочкой, выдал себя за 15-летнего и совершил надругательство — алгоритмы не заметили подмены. В Пуяллапе 23-летний мужчина притворился 14-летним и напал на девочку того же возраста. В Чикаго 27-летний под видом 16-летнего мальчика заманил нескольких несовершеннолетних на встречи с теми же последствиями. Такие случаи множатся, а ежегодно обман в сети затрагивает сотни миллионов детей по всему миру.
Давление на Wizz растет от СМИ и защитников прав потребителей. Конгресс США объединяет республиканцев и демократов вокруг Kids Online Safety Act (KOSA). Закон вводит «обязанность заботы»: платформы обязаны доказать безопасность для детей или рискуют штрафами и банами. The Hill подчеркивает уникальность IT: это единственная индустрия без ответственности за вред продукта, в отличие от автопроизводителей или фармы.
KOSA требует от платформ изначально сильных настроек приватности для несовершеннолетних, родительского контроля над временем онлайн и покупками, отключения алгоритмов рекомендаций для детей. Родители получат прямой канал жалоб на вредный контент: суицидальные идеи, расстройства пищевого поведения, наркотики, эксплуатацию. Крупные сервисы (10+ млн пользователей) публикуют ежегодные отчеты о рисках и мерах защиты, проходят аудиты. Обещания, что ИИ защитит не работают без реальной верификации. Платформы либо внедрят биометрию, ручную модерацию и аудиты, либо столкнутся с судами.
Ранее стало известно, что вместо чат-ботов в сети общаются люди. Подробности в статье.
