Типичная ситуация: скачиваем приложение на смартфон, и оно запрашивает сразу тысячу разрешений: на доступ к контактам, геолокации, камере, звонкам, на запись аудио с микрофона и даже на доступ к нательным датчикам вроде фитнес-браслета. А потом браузер начинает рекомендовать медицинские препараты для сердца и суставов. И это не самое неприятное, что может случиться в связи с правомерным или неправомерным использованием личных данных. Какую роль в информационной безопасности играют нейросети? Думаете, они только помогают бороться с преступниками? А вот и нет! О том, как нейросеть защищает от кражи данных, мы спросили у ChatGPT и у экспертов по искусственному интеллекту и кибербезопасности.
У нас дыра в безопасности. Ну хоть что-то у нас в безопасности!
На сбор аналитики сайтами тоже давно уже никто не обращает внимания. На сайте вылетает окошечко «Разрешить отправку Cookies», пользователь нажимает «принять» или вообще ничего не нажимает. Так владелец сайта получает информацию, во сколько и с какого устройства человек заходил на страницу, какими товарами интересовался и так далее. Вплоть до записи экрана с движущимся по нему курсором.
Все, что собирается и хранится в цифровом виде, можно украсть, будь то логин, пароль, номер паспорта, данные из медицинской карты или из пенсионного фонда. Прибавив к этому данные из соцсетей, получится довольно подробный портрет человека. Даже код из SMS или код на обороте банковской карты, которые вроде бы нигде не хранятся, все равно находятся под угрозой.
Целью кражи может быть не только персональная настройка рекламы. Киберворы делают это для того, чтобы оформить поддельные документы, украсть деньги, получить доступ к вашему аккаунту в соцсетях, ради шантажа или продажи в даркнете. Мы спросили, что об этом думает чат-бот Chat GPT, и он подтвердил эту информацию.
Обладатель данных о поле, возрасте, родственниках и контактах человека способен представиться по телефону сотрудником банка и заниматься вымогательством. Заполучив учетные данные от соцсетей, злоумышленник может сменить пароль и посылать с чужого аккаунта просьбы перечислить ему деньги. А уж добравшись до банковских приложений, он и вовсе обчистит свою жертву. Существуют также кадровые риски — недобросовестные сотрудники организаций, скимминг — считывание данных с банкоматов, автоматизированный подбор пароля и много других способов кражи данных.
Так, например, утечка данных о клиентах Сбера в августе 2019 г., была связана именно с действиями недобросовестных сотрудников. А вот утечка данных из Facebook* (компания запрещена в РФ и принадлежит корпорации Meta, которая признана в РФ экстремистской) была уже делом рук преступной организации.
Добрая нейросеть…
Простым пользователям для защиты личных данных обычно советуют использовать двухфакторную идентификацию и регулярно менять пароли. А что если под угрозой находится сервер авиакомпании, хранящий данные о маршрутах ежедневных перелетов и о пассажирах — сервер, от работы которого зависят жизни людей? Для обработки данных такого масштаба не обойтись без нейросетей. Их используют для защиты данных с начала 1990-х годов.
«Нейронную сеть можно обучить обнаруживать закономерности мошеннической деятельности или аномалии в поведении пользователей, помогая выявлять потенциальные попытки кражи личных данных. В сочетании с другими механизмами, такими, как двухфакторная аутентификация и шифрование, нейронные сети могут способствовать созданию более надежной системы защиты учетных записей», — сообщает ChatGPT.
Основатель и продюсер компании-разработчика программного и аппаратного обеспечения «Роббо» Павел Фролов объясняет механизм работы ИИ, направленной на защиту от кражи данных: «ИИ анализирует комплекс различных параметров, в частности, время ответа сервера и отклонение пакетов от стандартов. Таким образом он обнаруживает аномальное поведение, свойственное злоумышленникам или вредоносным программам. Благодаря способности самообучаться и обобщать данные, ИИ может выявить новые виды атак, которые не были заложены в него при обучении».
Кроме того, как утверждает Павел Фролов, ИИ применяется для анализа поведения пользователей. По словам эксперта, ИИ способен обнаружить отклонения от его стандартного поведения и предотвратить доступ к конфиденциальной информации. Так, система фиксирует, что пользователь, всегда пользующийся сервисом в дневное время, вдруг начал совершать операции ночью и не такие, как обычно. Система распознает этот факт как взлом учетной записи и блокирует к ней доступ.
«Также нейросети могут извлекать информацию из аудиовизуального контента, что предотвращает более 67% потенциальных серьезных инцидентов с кибератаками», — добавляет директор компании-разработчика системы защиты корпоративных и частных сетей «IDECO» Дмитрий Хомутов. — «NGFW [Next Generation Firewall — межсетевой экран для глубокой фильтрации трафика — прим. ред.], в свою очередь, осуществляет контроль трафика, фильтрует подозрительные подключения и блокирует доступ к вредоносным сайтам или ресурсам. Это позволяет предотвратить утечку конфиденциальных данных и кибератаки, которые направлены на кражу информации из учетных записей».
…и злая нейросеть
Нейросети применяют маркировку данных, а потом сравнивают пакеты данных друг с другом, получая модель сортировки на «правильные» и «неправильные» данные. Их можно использовать как для защиты от кражи, так и для самой кражи данных. Так, существует потенциальная возможность того, что украденные данные используют для обучения на них нейросетей — ИИ уже умеет, например, «менять» пол и возраст на фотографиях, как в приложении Face App. Получается, что украденные данные позволят создать «цифровую копию» человека, которая будет жить своей жизнью, имитируя внешность, привычки и поведение человека.
Кстати, не будем забывать про биометрию. ChatGPT утверждает, что нейросеть может работать с биометрическими данными, и ее потенциально можно использовать для генерации поддельных отпечатков пальцев или фотопортрета человека.
