Почему искусственный интеллект – это опасно?

Мы много говорим о гаджетах и том, как нам становится удобнее жить; рассуждаем о науке и возможных прорывах, которые создадут неизбежно светлое и чудесное будущее. Уже всерьез (или с иронией) заговариваем о бессмертии, глядя на такие начинания, как, например, «Россия 2045». Но также и боимся возможных катастроф, связанных с деятельностью человека - вспомним хотя бы ожидание конца света от запуска Большого Адронного Коллайдера семь лет назад. Мы решили спросить футуролога о вымысле и ожиданиях, страхе и реальности. И, конечно, о вечной жизни. На вопросы Hi-Tech.Mail.Ru ответил Данила Медведев, трансгуманист, руководитель проекта «Системная схема старения человека», председатель совета директоров криофирмы.

Сейчас мы наблюдаем, как в российское общество возвращаются «традиционные ценности», оно словно делает шаг назад от науки. Вы согласны? Как вы оцениваете эту ситуацию?

Нет, я с этим совершенно не согласен. Вот сейчас я нахожусь на форуме-слете «Форсаж» молодых работников энергетической отрасли. И, скажу вам, возврата к традиционным ценностям совершенно не чувствуется.

Данила Медведев

Какие бы последние достижения науки вы отметили в первую очередь?

Лично мне наиболее интересно развитие науки о жизни. В целом, системная медицина, то есть выстраивание модели работы организмов. На простом примере это проект «Открытый червяк» (OpenWorm - прим. ред.), который приобрел международный статус. Это моделирование на компьютере с полным пониманием целого организма, в данном случае червяка-нематоды. Но понятно, что такие проекты пока еще на ранних этапах есть и для более сложных организмов: мыши и даже человека. Медицина и биология – это очень важные направления.

Модель червя Open Worm

Кроме того, огромный прорыв сейчас наблюдается в области регенеративной медицины, то есть выращивания органов. Если к этому добавить еще криобиологические технологии для хранения органов, которые позволяют сохранять выращенный орган, тогда мы сможем наблюдать еще большие прорывы.

Когда, наконец, человек будет жить вечно? Геронтологи считают, что человек, который будет жить 150 лет, уже родился. Вы согласны?

Это сложная техническая задача, нужно очень много областей, структур и специалистов соединить вместе, чтобы это работало. Потому что сейчас вообще с трудом можно заставить работать саму систему здравоохранения. Причем, не только в нашей стране, но и в тех же США, несмотря на огромные деньги, которые они тратят. Понятно, что у всех свои проблемы: у кого-то суп жидкий, а у кого-то жемчуг мелкий. Но выращивание органов – это самая понятная область и самая конкретная. Вы берете и получаете замену для чего-то, что вышло из строя. Любой человек способен понять, что если у него инфаркт, то ему нужно новое сердце. Понятно, что это не всегда является оптимальным решением. Иногда можно полечить и консервативно: терапия, операции. Но, в целом, получив возможность выращивать и заменять органы, мы значительно улучшим состояние организма и продлим его срок службы. Потенциально – на неограниченный срок.

Допустим, человечество избавлено от смерти и материальных потребностей. Как вы видите себе социальное устройство людей при таких условиях?

Я думаю, что однозначно по мере того, как идет увеличение продолжительности жизни и решение материальных вопросов, на первый план начнут выходить трансгуманистические области, связанные с трансформацией человека во что-то другое. Мы уже не будем довольствоваться тем, что у нас есть идеальное тело и идеальный мозг, и все, что нам вообще необходимо. Но мы будем думать о том, сможем ли мы как-то еще улучшить наше тело, настроение, сделать так, чтобы мы были умнее и счастливее. То есть нужно выйти за те пределы, которые мы считаем естественными. Мы привыкли к тому, как мы живем. Привыкли, что мы грустим, у нас все болит, с нами может случиться несчастье. Воспринимаем это уже как норму. Но по мере того, как мы развиваем технологии, мы в какой-то момент начинаем отходить от этой нормы и говорить, что даже если человек в плохом настроении, надо дать ему какое-то лекарство. Или же пусть он обратится к физиотерапевту, или, может, компьютерная программа должна быть у физиотерапевта специфическая. И вот эта область, посвященная улучшению человеческой жизни, мы к ней подходим уже как к более радикальному этапу.

Кадр из кинофильма «The Hunger»

В массовой культуре существует троп «человек устает жить вечно», вспомним о вампирах. Как думаете, насколько такое отношение проявится в реальности?

Нет, это невозможно. Потому что проблема скуки и усталости тривиальна по сравнению со всеми остальными, о которых мы сейчас говорили. Сделать чтобы человеку было интересно – это будет как выпить одну таблетку. То есть у нас в мозгу есть определенный баланс нейромедиаторов, который мы все лучше и лучше понимаем. Существует препараты стимулирующие, есть антидепрессанты, будет и такое, которое действует точечно на зоны мозга, с тем, чтобы внедрять в него определенный режим функционирования. В какой-то момент это просто станет нормой. Почему вы должны страдать от бессилия или мучиться от ревности, усталости или скуки? Это проблемы, которые соответствуют реальному состоянию мира. Если вам грустно, это не значит, что миру внезапно стало скучно. И нам просто нужно, не превращая людей в наркоманов, которые постоянно под кайфом, сохранить баланс между реальностью и внутренним ощущением.

Когда будет изобретено средство для бессмертия, как вы видите сценарий конфликта "сторонников бессмертия" и сторонников религий, в которых смерть - это закономерный и нужный переход в иной мир?

Здесь все очень просто – это решится само собой. Через сто лет сторонников религий не будет, все умрут. А все их дети, конечно, будут мыслить по-новому, поскольку растут в новой информационной среде, принимая трансгуманистические ценности как само собой разумеющееся. Старшее поколение носит традиционные ценности и не очень умеет их передавать. В конце концов, конфликт отцов и детей никто не отменял. Поэтому я могу со стопроцентной вероятностью предсказать, что по мере того как вымирают сторонники смерти, сторонников бессмертия становится все больше. В какой-то момент последние будут составлять сто процентов от населения.

Как поступят с пожизненно заключенными людьми, если люди обретут бессмертие?

Тут гораздо проще. Проблема что человек совершает преступление, какие-то наклонности – все это может быть решено и в нынешнем обществе. И в некоторых странах это решается куда успешнее, чем в России. У нас конституционная система не перевоспитывает людей и не помогает обществу. Худо-бедно пытаются как-то наказывать. Если подходить к этому с большими интеллектуальными ресурсами, то в почти каждом случае можно понять почему это произошло и предпринять какие-то меры, чтобы такого преступления больше не было. Я не вижу здесь проблемы с пожизненными заключенными потому, что их просто не будет. Преступников будет намного меньше. И, более того, это будет как в романе Ефремова «Туманность Андромеды», когда преступник сам отправляется в изоляцию на необитаемый остров. Он сам себе самый главный палач, судья и тюремщик. И когда, он считает, срок подходит, он сам возвращается к продуктивной жизни.

Кадр из кинофильма «I, Robot»

Вы уже говорили про вероятность скорого изобретения искусственного интеллекта. Вы не боитесь этого? Не боитесь, что он «заменит» человечество?

Бояться стоит. Однако искусственный интеллект слабый уже давно изобретен. Но пока это не универсальный интеллект, он не может сам себя регулировать. Он не может на другие области затачиваться, как в теории может человек. По мере того как искусственный интеллект становится более универсальным и более самостоятельным, опасность действительно повышается. И единственное решение, которое я вижу здесь – опережающими темпами усиливать интеллект человека.

Пока мы не достигли того уровня развития искусственного интеллекта, чтобы он думал за нас, посоветуйте какие-то способы саморазвития.

Саморазвитие должно быть в постановке правильных целей. Для этого каждому человеку нужно прочитать книгу «Как стать гением» Альтшуллера (Генрих Саулович Альтшуллер - советский писатель-фантаст, изобретатель, автор теории развития изобретательских задач, теории развития человеческой личности - прим. ред.), в которой подробно все расписано. Без правильного старта бессмысленно пытаться стать более умным и более успешным, потому что это реально очень длинный и очень большой путь. Вся жизнь человека должна быть заточена на постоянное самосовершенствование. То есть нужно прочитать про трансгуманизм и начинать уже сейчас жить в немножко другом режиме. А касаемо способов, существует много методик развития мышления. Но начинать нужно с целей. Хочет быть сверхразумом или примитивным существом.

Вы, пожалуй, самый известный в стране трансгуманист – и прекрасно осведомлены об опасностях, которые могут нести технологии. Какие существующие и грядущие технологии вы считаете наиболее опасными?

В первую очередь – это технологии искусственного интеллекта. Потенциально и нанотехнологии. Однако не те, что у нас есть сейчас, а те, что позволят что угодно превращать в что угодно. То будет достаточно опасно. Ну, и сегодняшние биотехнологии, позволяющие выращивать искусственные бактерии. Потенциально это очень опасная область.

Трансгуманизм — философская концепция, а также международное движение, поддерживающие использование достижений науки и технологии для улучшения умственных и физических возможностей человека с целью устранения тех аспектов человеческого существования, которые трансгуманисты считают нежелательными — страданий, болезней, старения и даже смерти. Трансгуманисты изучают возможности и последствия применения таких технологий, опасности и преимущества их использования.

Йеллоустоунские источники

Сейчас очень много говорят о хрупкости нашего мира, о возможности конца света. Какие сценарии апокалипсиса вы видите наиболее реальными? И какие есть способы избежать этого?

Самый вероятный сценарий – это как раз технологические риски, которые были перечислены. Плюс еще, например, взрыв супервулканом. У нас недавно как раз экспертом Российского трансгуманистического движения Алексеем Турчаным был представлен первый вариант плана по предотвращению гибели цивилизации. Мы работаем в этом направлении, потому что осознаем: если мы хотим прожить миллион лет и больше, то нам нужно заботиться и о маловероятных событиях, которые могут произойти через 50 и 100 лет.

Как вы относитесь к проекту «Россия 2045»?

Там были декларированы идеи и красивые образы. Но организационно проект не создал в России ряда решений ни в рамках госпрограмм, ни в рамках инновационных институтов. И получается, что идея озвучена, но ничего не сделано. И работа, насколько я понимаю, ведется не очень активно.