На АЭС впервые внедрили искусственный интеллект: почему это вызывает опасения

ИИ используют на электростанции в Калифорнии. Рассказываем, что об этом известно.
Автор новостей
комплект АЭС Diablo Canyon
Diablo Canyon является единственной АЭС на территории КалифорнииИсточник: Tracey Adams, CC BY 2.0

Руководство атомной электростанции «Дьябло Каньон» (Diablo Canyon), которая остается единственной на территории Калифорнии, сообщило о внедрении искусственного интеллекта в работу. Эксперимент проводится в преддверии вывода АЭС из эксплуатации, который начнется в 2029 году. Несмотря на предстоящее сворачивание работы, программные мощности системы управления станцией получили значительное обновление. Это сделали как раз для опытов с искусственным интеллектом.

Этой электростанцией управляет компания Pacific Gas and Electric (PG&E). Она заключила соглашение со стартапом в области ИИ Atomic Canyon, который разработал специальную нейросеть Neutron Enterprise для работы в атомной промышленности. Многие политики и эксперты выразили обеспокоенность внедрением ИИ в управление таким критически важным и потенциально опасным объектом. По их мнению, интеллектуальные технологии еще недостаточно отточены и изучены, чтобы доверять им АЭС, любая ошибка в работе которой может привести к катастрофическим последствиям.

Однако авторы проекта поспешили успокоить общественность. Они подчеркнули, что Neutron Enterprise будет использоваться только для помощи работникам станции в ориентации в миллионах страниц технической и нормативной документации. В PG&E нейросеть сравнивают со вторым пилотом, который облегчает людям поиск решения, а не принимает его. Это согласуется с требованиями экспертов радикально оградить ИИ от любых возможностей по инициации тех или иных действий на станции.

АЭС Diablo Canyon вид сверху
АЭС Diablo Canyon в 2029 году будут выводить из эксплуатацииИсточник: Doc Searls, CC BY-SA 2.0

По сути, на данном этапе Neutron Enterprise займется формированием отчетов и инструкций, которые в любом случае будут проходить через руки специалистов. В управляющей компании рассказали, что за десятилетия работы накопилась огромная масса данных и документов. Там приходится тратить около 15 000 трудовых часов в год только на поиск в многочисленных базах записей о процедурах и нормах. ИИ возьмет на себя эту работу.

Вы можете занести это в протокол: специалист по ИИ в ядерной отрасли говорит, что ни за что на свете не согласится, чтобы нейросеть управляла моей атомной электростанцией на данный момент.
Трей Лодердейл
соучредитель Atomic Canyon

Ключевым тут является оборот «на данный момент», поскольку обе партнерские компании намерены постепенно расширять возможности ИИ в атомной промышленности. Они также ищут других партнеров, готовых работать в этой области.

Ранее мы рассказывали, что Россия испытывает ядерное топливо нового поколения.