Разведывательные службы Австралии, США, Британии, Новой Зеландии и Канады выпустили совместное заявление о росте киберугроз, связанных с развитием искусственного интеллекта. Альянс этих стран, известный как Five Eyes, существует с послевоенных лет и редко делает публичные обращения такого рода — обычно подобные оценки остаются внутри закрытых брифингов, сообщает The Guardian.
По мнению авторов заявления, нейросети нового поколения превзойдут все текущие прогнозы аналитиков. Речь идет не о далекой перспективе, а буквально о ближайших месяцах. Технология одновременно усиливает защиту цифровых систем и облегчает работу злоумышленникам — она снижает порог входа для атак и увеличивает их скорость и сложность.
Поводом для заявления стало решение администрации Трампа ограничить доступ к модели Fable, разработанной компанией Anthropic. С июня иностранные граждане лишились возможности использовать эту систему — решение приняли по рекомендации национальных служб безопасности США.
Fable создавалась как более открытая версия другой разработки Anthropic — Mythos. Эта модель умеет находить слабые места в защите цифровых систем и доступна лишь проверенным организациям из-за риска злоупотребления ею. Эксперт по нацбезопасности Оливия Шен из Университета Сиднея отметила: главное отличие свежих моделей в том, что они отлично справляются с созданием готовых эксплойтов — кода, который использует найденную уязвимость для реального проникновения в систему.
Под ограничения попали обе разработки компании — и Fable, и Mythos. При этом в самом заявлении Five Eyes ни одна компания или модель прямо не названа, формулировки остаются общими. Тем не менее внимание мирового IT-сообщества и регуляторов сосредоточено именно на продуктах Anthropic как на наиболее заметном примере проблемы.
По словам Шен, история явно не закончится одной моделью. Если уже выпущенные системы вызывают такую обеспокоенность, логично предположить, что аналогичные или даже более продвинутые разработки готовятся другими игроками — государственными лабораториями и частными компаниями за пределами публичного поля. Видна только верхушка айсберга — то, что компании решили опубликовать.
В заявлении спецслужбы прямо называют киберустойчивость не технической, а управленческой задачей. Авторы документа подчеркивают: ответственность за защиту цифровой инфраструктуры теперь лежит не только на ИТ-отделах, а на руководстве компаний целиком, и это должно стать частью бизнес-стратегии наравне с финансовыми рисками.
Для Австралии тема ощущается еще более остро, так как в марте правительство страны подписало с Anthropic меморандум о сотрудничестве в рамках национального плана по ИИ. Соглашение носит необязательный характер: компания делится информацией о развитии своих технологий и поддерживает принципы безопасной разработки, а государство в целом придерживается мягкого регулирования отрасли, рассчитывая получить от технологии максимум экономической выгоды без лишних барьеров для инноваций.
Также недавно писали, что корпорации, банки и государственные службы бессильны против ИИ-хакеров. Подробности в статье.
