В письме сказано, что технологии искусственного интеллекта уже настолько совершенны, что развертывание «умного» наступательного оружия – дело ближайших нескольких лет. Ставки высоки, ведь если это произойдет, то случится третий этап эволюции вооружения. Первыми двумя было открытие пороха и создание атомной бомбы.
Авторы письма считают, что искусственный интеллект может быть использован в военных целях, но лишь для обеспечения безопасности военнослужащих. Если же он будет играть роль наступательной силы, то число жертв только возрастет.
Мы стоим на пороге новой гонки вооружений, пишут ученые. Как только одна из держав создаст оружие, которое будет самостоятельно определять цели и действовать без человеческого вмешательства, запустится процесс, схожий с тем, что мы наблюдали после изобретения атомной бомбы. И, к несчастью, отследить создание «роботов-убийц» будет сложно, поскольку, в отличие от создания атомной бомбы, военным не потребуются какие-то особенные производственные материалы. Ученые считают, что сейчас самое время принять решение – допустить гонку вооружений или сказать «умному» оружию твердое нет.
Вопрос автономного наступательного вооружения обсуждается не впервые. Весной этого года его уже касались на конференции ООН в Женеве. Тогда Великобритания высказалась против запрета «роботов-убийц», заявив, что не видит в этом необходимости, поскольку в мире все еще действует международное гуманитарное право.
Отметим, что наиболее трезвый взгляд на проблему автономного наступательного вооружения преподнесен в 24 эпизоде 5 сезона популярного научно-фантастического сериала «Звездный путь: Вояджер». Экипаж звездолета «Вояджер» находит на одной из планет небольшую ракету, обладающую продвинутым искусственным интеллектом.
Позже оказывается, что это «умное» оружие массового поражения, созданное одной из цивилизаций во время войны. После заключения мира ракеты получили приказ деактивировать боеголовки, но произошел сбой, и некоторые из них продолжили путь сквозь Вселенную к ранее указанной цели, игнорируя все приказы и увещевания, интерпретируя их как попытку врагов ввести их в заблуждение.
Величайшие умы человечества не устают напоминать нам об опасности, которую таит в себе искусственый интеллект. «Уже в ближайшие 100 лет искусственный интеллект превзойдет человеческий, – уверен профессор Кембриджского университета, знаменитый астрофизик Стивен Хокинг. – И до того, как это случится, мы должны сделать все, чтобы цели машин совпадали с нашими». Хокинг считает, что искусственный интеллект должен быть под контролем человека, иначе всем нам придет конец. Билл Гейтс и Элон Маск вторят ему, а сооснователь Apple Стив Возняк и вовсе считает, что человек станет для роботов домашним животным: «Сейчас мы создаем эти умные девайсы, чтобы они заботились о нас, но в итоге они станут более сообразительными и избавятся от человека», – говорил Возняк.