Генеративный искусственный интеллект (ИИ) при отсутствии должного регулирования несет риски потери управляемости для компаний и критической инфраструктуры. Такое мнение выразил заместитель генерального директора Центра биометрических технологий (ЦБТ) Евгений Семенов во время выступления на форуме «Цифровые решения» в сессии «Будущее кибербезопасности в эпоху ИИ».
Как считает Семенов, сегодня бизнес не выстроил необходимых этических и процессных рамок для работы с ChatGPT и другими нейросетями. «Многие отрасли еще не научились строить риск-модели, не научились правильно управлять. Сотрудник может использовать эти инструменты для обработки персональной информации, а мы таким образом можем передавать владельцам инфраструктур конфиденциальные данные, в том числе о состоянии наших критических инфраструктур. Это очень рискованная вещь», — заявил Семенов.
Замглавы ЦБТ также назвал ключевую угрозу. По его мнению, из-за специфики работы ИИ высшие эшелоны управления могут перестать понимать, что происходит на нижних уровнях. «Эта обратная связь будет рушиться. Верхний слой будет видеть, что все нормально, а идентифицировать проблему будет не в состоянии», — пояснил эксперт.
При этом Семенов отметил и положительный потенциал технологии. «Если специалист подготовленный, его этот инструмент ускорит кратно. Например, для анализа инцидентов кибербезопасности это будет прямо классно», — сказал он.
«Цифровые решения» — самый масштабный ИТ-форум России. Он проходит с 12 по 15 ноября. Ранее на форуме выступил премьер-министр России Михаил Мишустин.
