Mail.RuПочтаМой МирОдноклассникиИгрыЗнакомстваНовостиПоискВсе проекты
21 июля 2015

Почему искусственный интеллект – это опасно?

Мы много говорим о гаджетах и том, как нам становится удобнее жить; рассуждаем о науке и возможных прорывах, которые создадут неизбежно светлое и чудесное будущее. Уже всерьез (или с иронией) заговариваем о бессмертии, глядя на такие начинания, как, например, «Россия 2045». Но также и боимся возможных катастроф, связанных с деятельностью человека - вспомним хотя бы ожидание конца света от запуска Большого Адронного Коллайдера семь лет назад. Мы решили спросить футуролога о вымысле и ожиданиях, страхе и реальности. И, конечно, о вечной жизни. На вопросы Hi-Tech.Mail.Ru ответил Данила Медведев, трансгуманист, руководитель проекта «Системная схема старения человека», председатель совета директоров криофирмы.

Сейчас мы наблюдаем, как в российское общество возвращаются «традиционные ценности», оно словно делает шаг назад от науки. Вы согласны? Как вы оцениваете эту ситуацию?

Нет, я с этим совершенно не согласен. Вот сейчас я нахожусь на форуме-слете «Форсаж» молодых работников энергетической отрасли. И, скажу вам, возврата к традиционным ценностям совершенно не чувствуется.

Данила Медведев

Какие бы последние достижения науки вы отметили в первую очередь?

Лично мне наиболее интересно развитие науки о жизни. В целом, системная медицина, то есть выстраивание модели работы организмов. На простом примере это проект «Открытый червяк» (OpenWorm - прим. ред.), который приобрел международный статус. Это моделирование на компьютере с полным пониманием целого организма, в данном случае червяка-нематоды. Но понятно, что такие проекты пока еще на ранних этапах есть и для более сложных организмов: мыши и даже человека. Медицина и биология – это очень важные направления.

Модель червя Open Worm

Кроме того, огромный прорыв сейчас наблюдается в области регенеративной медицины, то есть выращивания органов. Если к этому добавить еще криобиологические технологии для хранения органов, которые позволяют сохранять выращенный орган, тогда мы сможем наблюдать еще большие прорывы.

Когда, наконец, человек будет жить вечно? Геронтологи считают, что человек, который будет жить 150 лет, уже родился. Вы согласны?

Это сложная техническая задача, нужно очень много областей, структур и специалистов соединить вместе, чтобы это работало. Потому что сейчас вообще с трудом можно заставить работать саму систему здравоохранения. Причем, не только в нашей стране, но и в тех же США, несмотря на огромные деньги, которые они тратят. Понятно, что у всех свои проблемы: у кого-то суп жидкий, а у кого-то жемчуг мелкий. Но выращивание органов – это самая понятная область и самая конкретная. Вы берете и получаете замену для чего-то, что вышло из строя. Любой человек способен понять, что если у него инфаркт, то ему нужно новое сердце. Понятно, что это не всегда является оптимальным решением. Иногда можно полечить и консервативно: терапия, операции. Но, в целом, получив возможность выращивать и заменять органы, мы значительно улучшим состояние организма и продлим его срок службы. Потенциально – на неограниченный срок.

Допустим, человечество избавлено от смерти и материальных потребностей. Как вы видите себе социальное устройство людей при таких условиях?

Я думаю, что однозначно по мере того, как идет увеличение продолжительности жизни и решение материальных вопросов, на первый план начнут выходить трансгуманистические области, связанные с трансформацией человека во что-то другое. Мы уже не будем довольствоваться тем, что у нас есть идеальное тело и идеальный мозг, и все, что нам вообще необходимо. Но мы будем думать о том, сможем ли мы как-то еще улучшить наше тело, настроение, сделать так, чтобы мы были умнее и счастливее. То есть нужно выйти за те пределы, которые мы считаем естественными. Мы привыкли к тому, как мы живем. Привыкли, что мы грустим, у нас все болит, с нами может случиться несчастье. Воспринимаем это уже как норму. Но по мере того, как мы развиваем технологии, мы в какой-то момент начинаем отходить от этой нормы и говорить, что даже если человек в плохом настроении, надо дать ему какое-то лекарство. Или же пусть он обратится к физиотерапевту, или, может, компьютерная программа должна быть у физиотерапевта специфическая. И вот эта область, посвященная улучшению человеческой жизни, мы к ней подходим уже как к более радикальному этапу.

Кадр из кинофильма «The Hunger»

В массовой культуре существует троп «человек устает жить вечно», вспомним о вампирах. Как думаете, насколько такое отношение проявится в реальности?

Нет, это невозможно. Потому что проблема скуки и усталости тривиальна по сравнению со всеми остальными, о которых мы сейчас говорили. Сделать чтобы человеку было интересно – это будет как выпить одну таблетку. То есть у нас в мозгу есть определенный баланс нейромедиаторов, который мы все лучше и лучше понимаем. Существует препараты стимулирующие, есть антидепрессанты, будет и такое, которое действует точечно на зоны мозга, с тем, чтобы внедрять в него определенный режим функционирования. В какой-то момент это просто станет нормой. Почему вы должны страдать от бессилия или мучиться от ревности, усталости или скуки? Это проблемы, которые соответствуют реальному состоянию мира. Если вам грустно, это не значит, что миру внезапно стало скучно. И нам просто нужно, не превращая людей в наркоманов, которые постоянно под кайфом, сохранить баланс между реальностью и внутренним ощущением.

Когда будет изобретено средство для бессмертия, как вы видите сценарий конфликта "сторонников бессмертия" и сторонников религий, в которых смерть - это закономерный и нужный переход в иной мир?

Здесь все очень просто – это решится само собой. Через сто лет сторонников религий не будет, все умрут. А все их дети, конечно, будут мыслить по-новому, поскольку растут в новой информационной среде, принимая трансгуманистические ценности как само собой разумеющееся. Старшее поколение носит традиционные ценности и не очень умеет их передавать. В конце концов, конфликт отцов и детей никто не отменял. Поэтому я могу со стопроцентной вероятностью предсказать, что по мере того как вымирают сторонники смерти, сторонников бессмертия становится все больше. В какой-то момент последние будут составлять сто процентов от населения.

Как поступят с пожизненно заключенными людьми, если люди обретут бессмертие?

Тут гораздо проще. Проблема что человек совершает преступление, какие-то наклонности – все это может быть решено и в нынешнем обществе. И в некоторых странах это решается куда успешнее, чем в России. У нас конституционная система не перевоспитывает людей и не помогает обществу. Худо-бедно пытаются как-то наказывать. Если подходить к этому с большими интеллектуальными ресурсами, то в почти каждом случае можно понять почему это произошло и предпринять какие-то меры, чтобы такого преступления больше не было. Я не вижу здесь проблемы с пожизненными заключенными потому, что их просто не будет. Преступников будет намного меньше. И, более того, это будет как в романе Ефремова «Туманность Андромеды», когда преступник сам отправляется в изоляцию на необитаемый остров. Он сам себе самый главный палач, судья и тюремщик. И когда, он считает, срок подходит, он сам возвращается к продуктивной жизни.

Кадр из кинофильма «I, Robot»

Вы уже говорили про вероятность скорого изобретения искусственного интеллекта. Вы не боитесь этого? Не боитесь, что он «заменит» человечество?

Бояться стоит. Однако искусственный интеллект слабый уже давно изобретен. Но пока это не универсальный интеллект, он не может сам себя регулировать. Он не может на другие области затачиваться, как в теории может человек. По мере того как искусственный интеллект становится более универсальным и более самостоятельным, опасность действительно повышается. И единственное решение, которое я вижу здесь – опережающими темпами усиливать интеллект человека.

Пока мы не достигли того уровня развития искусственного интеллекта, чтобы он думал за нас, посоветуйте какие-то способы саморазвития.

Саморазвитие должно быть в постановке правильных целей. Для этого каждому человеку нужно прочитать книгу «Как стать гением» Альтшуллера (Генрих Саулович Альтшуллер - советский писатель-фантаст, изобретатель, автор теории развития изобретательских задач, теории развития человеческой личности - прим. ред.), в которой подробно все расписано. Без правильного старта бессмысленно пытаться стать более умным и более успешным, потому что это реально очень длинный и очень большой путь. Вся жизнь человека должна быть заточена на постоянное самосовершенствование. То есть нужно прочитать про трансгуманизм и начинать уже сейчас жить в немножко другом режиме. А касаемо способов, существует много методик развития мышления. Но начинать нужно с целей. Хочет быть сверхразумом или примитивным существом.

Вы, пожалуй, самый известный в стране трансгуманист – и прекрасно осведомлены об опасностях, которые могут нести технологии. Какие существующие и грядущие технологии вы считаете наиболее опасными?

В первую очередь – это технологии искусственного интеллекта. Потенциально и нанотехнологии. Однако не те, что у нас есть сейчас, а те, что позволят что угодно превращать в что угодно. То будет достаточно опасно. Ну, и сегодняшние биотехнологии, позволяющие выращивать искусственные бактерии. Потенциально это очень опасная область.

Трансгуманизм — философская концепция, а также международное движение, поддерживающие использование достижений науки и технологии для улучшения умственных и физических возможностей человека с целью устранения тех аспектов человеческого существования, которые трансгуманисты считают нежелательными — страданий, болезней, старения и даже смерти. Трансгуманисты изучают возможности и последствия применения таких технологий, опасности и преимущества их использования.

Йеллоустоунские источники

Сейчас очень много говорят о хрупкости нашего мира, о возможности конца света. Какие сценарии апокалипсиса вы видите наиболее реальными? И какие есть способы избежать этого?

Самый вероятный сценарий – это как раз технологические риски, которые были перечислены. Плюс еще, например, взрыв супервулканом. У нас недавно как раз экспертом Российского трансгуманистического движения Алексеем Турчаным был представлен первый вариант плана по предотвращению гибели цивилизации. Мы работаем в этом направлении, потому что осознаем: если мы хотим прожить миллион лет и больше, то нам нужно заботиться и о маловероятных событиях, которые могут произойти через 50 и 100 лет.

Как вы относитесь к проекту «Россия 2045»?

Там были декларированы идеи и красивые образы. Но организационно проект не создал в России ряда решений ни в рамках госпрограмм, ни в рамках инновационных институтов. И получается, что идея озвучена, но ничего не сделано. И работа, насколько я понимаю, ведется не очень активно.

Комментарии
99
Леонид Огурцов
Парадоксально, но вечная жизнь добъет человечество.
СсылкаПожаловаться
Сергей Пешеходько
не смешите мои яйца,вечность у нас впереди.....
СсылкаПожаловаться
ajwaaj@yandex.ru
Советую прочитать статью Владимира Николаевича Катасонова "ТРАНСГУМАНИЗМ: НОВАЯ ЭВОЛЮЦИОННАЯ УТОПИЯ".
Прочитать внимательно и до конца. Кого по-настоящему интересует эта тема.
В общем-то, Владимир Николаевич, научным образом, аргументировал невозможность создания искусственного интеллекта.
Цитата:
"...Современные информационные технологии игнорируют проблему непрерывности, они, традиционно пытаются свести все к дискретности. Но то-то и оно, что вопрос «Действительно ли мир дискретен?» остается без ответа. Многое же свидетельствует о том, что непрерывность играет не менее важную роль в строении мира, чем и дискретность. Если дискретность выражает оформленность мира, его определенность, то непрерывность выражает всеобщую связь и зависимость в мире. Дискретность и непрерывность как общие диалектические категории важны также как форма и материя, мужское и женское. И обе эти категории играют существенную роль и в нашем восприятии мира, и в самой природе знания.
И самое главное все эти проблемы, – проблема непрерывности, иррационального числа, сознания, и связанные с последней проблема свободы, проблема ничто, проблема творения – связаны с понятием актуальной бесконечности. Как только мы пытаемся подобраться к ним научно, в рамках логики или математики, так сразу мы натыкаемся на это существенное препятствие, актуальную бесконечность. Но актуальная бесконечность неалгоритмизируема. Грубо говоря, вычислительная машина не имеет и может иметь этой идеи, у нее нет правила, чтобы оперировать с ней. Человек не может разом представить и двух десятков предметов, но он имеет идею актуальной бесконечности, как идею (не представление). Вычислительная же машина может быстро оперировать с огромными числами, но все они – всегда конечны, какими бы большими они ни были, и у нее никогда нет и не может быть идеи бесконечности…"
СсылкаПожаловаться
Чтобы оставить комментарий, вам нужно авторизоваться.
Обнаружили ошибку? Выделите ее и нажмите Ctrl+Enter.
Hi-Tech Mail.Ru
Apple iPhone 6S 32GB
от35 780руб.
Apple iPhone 7 32GB
от43 400руб.
Samsung Galaxy A5 (2016)
от17 100руб.
Apple iPhone SE 64GB
от28 590руб.
Xiaomi Mi5 32GB
от16 130руб.
Apple iPhone 7 128GB
от51 480руб.
Xiaomi Redmi 3S Pro 32GB
от9 590руб.
Meizu M3 Note 16GB
от9 290руб.
Samsung Galaxy J2 Prime
от7 935руб.
Samsung Galaxy A3 (2016)
от14 000руб.
Подпишитесь на нас
Новости Hi-Tech Mail.Ru