Mail.RuПочтаМой МирОдноклассникиИгрыЗнакомстваНовостиПоискВсе проекты
27 октября 2014, Источник: TechCrunch

Элон Маск: наибольшей угрозой для человечества является искусственный интеллект

Когда речь заходит об искусственном интеллекте, большинство людей представляет себе человекообразных роботов, поведение которых сложно отличить от поведения живого человека, или компьютер, который способен поддерживать беседу на «живом» человеческом языке. Однако мало кто задумывается о возможных последствиях появления таких технологий.

Генеральный директор компании Tesla Motors и основатель SpaceX Элон Маск (Elon Musk) дал подробное интервью на симпозиуме Массачусетского технологического института AeroAstro, в ходе которого был затронут вопрос искусственного интеллекта.

«Мне кажется, нам необходимо быть очень осторожными в области искусственного интеллекта. Если бы мне необходимо было угадать, что является наибольшей угрозой для человечества, я бы назвал именно его… Я все больше склоняюсь к тому, что должен быть сформирован какой-то регулирующий орган, возможно, на национальном и международном уровне, просто чтобы убедиться, что мы не делаем что-то особенно глупое. С искусственным интеллектом мы призываем демона. Как в этих историях, где парень с пентаграммой и святой водой, и он такой весь уверенный, что сможет управлять демоном. Но не вышло».

Журналист поинтересовался, что тогда ему поможет при полете на Марс (в рамках SpaceX Элон Макс обещал отправить людей на Марс к 2026 году), если там не будет HAL9000, на что основатель SpaceX ответил: «С HAL9000 будет намного проще иметь дело [чем в искусственным интеллектом]. Он [искусственный интеллект] куда более сложный…на его фоне HAL9000 будет выглядеть жалким щенком».

HAL9000 — компьютер из цикла произведений Артура Кларка «Космическая одиссея», который обладал способностью к самообучению и считается ярким примером искусственного интеллекта в научной фантастике. Он умел не только слышать, обрабатывать и понимать человеческую речь, но и создавать предметы искусства и даже проявлять некоторые эмоции, в том числе проявлял инстинкт самовыживания.

Такое заявление Маска говорит о том, что современное понимание искусственного интеллекта массами ошибочно, а набор алгоритмов, которые используются в работе, например, голосовых помощников, является только самым началом пути в создании искусственного интеллекта. Необходимость в создании регулирующего органа тоже имеет определенный смысл, поскольку даже самые безобидные технологии некоторые люди способны превратить в оружие массового поражения. Но не стоит забывать, что такие технологии если и появятся, то не в ближайшее время, что дает надежду на поиск оптимального пути, по которому стоит развивать искусственный интеллект в будущем.

Комментарии
85
Александр Мамай
В ответ на комментарий от interrno История переписки2
interrno
смысл "искусственного интеллекта" - попытка "сделать" человека самостоятельно, на основе текущих технологий, "джинны" магов, "големы" средневековья - попытка заменить раба-человека рабом-механизмом, которому что прикажешь, то он и делает. В этом смысле для "хозяина" раб-интеллектуал является реальной угрозой, ведь кто кем управляет и с какой целью, можно и не понять. Новая форма существования жизни появляется не из желания, а из необходимости, как потребность преодоления невозможности существования старой. В лучшем случае человечество в целом не заметит никакой новой формы жизни, если уже ... Как интересно относились динозавры и пресмыкающиеся к млекопитающим и теплокровным?
СсылкаПожаловаться
Мне кажется, уважаемый Иван, что невозможно контролировать смыслы, происходящих вокруг нас процессов, и тем более отождествлять их со смыслами, которыми мы их (процессы) наделяем. Новые формы жизни появлялись, появляются и появятся, согласен с Вами, не из нашего желания, но и даже не из необходимости "преодоления невозможности существования старой", но, просто, из возможности своего появления. Тому масса примеров, из биологии, где находят новые виды животных, растений, бактерий, вирусов, а целый сноб социальных форм жизни, как среди животных, так и в человеческой среде, всевозможные общественные организации разных уровней, государства. На мой взгляд, это все формы жизни, идеи существования которых, при определенных обстоятельствах могут сменить субстрат своего существования. Так, например, я вполне могу себе представить как Государство постепенно избавляется от человека в пользу роботов, которые умней, проворней, послушней, экономичней. Человек, отстаивая свои ценности, может ставить цели, наполнять смыслом процессы, открывать смыслы процессов, таким образом, вливаясь в общий мировой процесс, отождествляясь с миром, мне кажется это внутренний мотив движения всего сущего, и человека, в частности. Вот таким смыслом может быть желание человека создать ИИ, но для природы этот смысл, в некотором смысле, вторичен, в ней (в природе) ИИ возникнет, когда и если для того сложатся условия, обстоятельства, и может быть это будет не ИИ потому, что в нем не примет участия человек.
СсылкаПожаловаться
Александр Мамай
В ответ на комментарий от Yuriy Istomin История переписки2
Yuriy Istomin
Это конечно да, всему своё время.. главное самим не стараться приблизить эти "времена несовместимые с существованием человека."
Конечно опасность кажется преувеличенной, однако мы сейчас постоянно наблюдаем как человечество уже сейчас перекладывает свою умственную деятельность на программные продукты, доверяя заложенным в них расчетным и проверочным формулам. А ведь мощный расчетный комплекс в руках неопытного инженера может привести к трагедии, где-то коэффициент не тот указал - и абзац.. какой нибудь аквапарк рухнул. Или представьте систему общественного питания контролируемую ИИ.. Всё в идеальных пропорциях, индивидуальный подход к каждому клиенту (калории, витамины, микроэлементы, амминокислотный состав), а теперь и тут ИИ осенило что по какой-то там ему ведомой причине надо готовить по другому :). Проблема корректности любой программы в том, что её точность, устойчивость к ошибкам исходных данных определяется программистом. Вы знаете хоть одного человека который абсолютен?? и знает как сделать так чтобы асем было хорошо?? да и что такое это хорошо??
СсылкаПожаловаться
Здравствуйте, уважаемый Юрий, конечно я далек от мысли, что знаю абсолютного (в контексте Вашего вопроса) человека, что знаю, как сделать так, чтобы всем было хорошо, и что такое хорошо. Но с другой стороны, я верю в то, что природа вложила в нас способность выбирать - желать любви или не желать. Ни один человек, ни одна машина ни когда не будут способны к безупречной точности, в восприятии, в осмыслении воспринятого, в трансляции осмысленного в действия в самих действиях, но если человек или ИИ (машина) будут желать любви и сверять всякий акт своего функционирования с этим желанием, то вероятность ошибки будет минимизирована, вероятно того, что совершенная ошибка останется без внимания, без соответствующей коррекции по нейтрализации ее (ошибки) разрушительных последствий, то тогда у нас будет неизмеримо более шансов проживать свою жизнь осмысленно, красиво, интересно.
С уважением, Александр
СсылкаПожаловаться
Александр Мамай
В ответ на комментарий от Юрий Виноградов История переписки2
Юрий Виноградов
Судейство точно должно проходить без вмешательства человека.
Программа проверит законность следственных действий и выберет приговор.
Если закон не читается однозначно - выпишет штраф законодателям.
Если следствие нарушило закон - выпишет штраф УВД.
СсылкаПожаловаться
Совершенно согласен Вами, уважаемый Юрий ... думаю уже сейчас имеется серьезный технологический потенциал для движения в этом направлении. Было бы здорово, если создатели таких и подобных им юридических баз как "Гарант", "Консультант плюс" приложили бы усилия для разработки робота консультанта, который бы давал предварительные заключения для граждан по той или иной правовой проблеме возникающей в их жизни ... мне кажется, у этой идеи неиссякаемый коммерческий потенциал, а если со временем в процессе совершенствования такие заключения сделанные роботами стали бы набирать и юридическую силу в той или иной форме по нарастающей, в нашей стране бы воцарилось настоящее верховенство права в лучшем смысле этого слова, и наша общество, цивилизация получила бы существенные конкурентные эволюционные преимущества ...
С уважением, Александр
СсылкаПожаловаться
Чтобы оставить комментарий, вам нужно авторизоваться.
Обнаружили ошибку? Выделите ее и нажмите Ctrl+Enter.
Hi-Tech Mail.Ru
Apple iPhone 6S 32GB
от35 640руб.
Samsung Galaxy A5 (2016)
от17 700руб.
Apple iPhone 7 32GB
от43 400руб.
Apple iPhone SE 64GB
от30 700руб.
Meizu M3 Note 16GB
от9 490руб.
Xiaomi Redmi 3S Pro 32GB
от9 131руб.
Samsung Galaxy A3 (2016)
от14 000руб.
Samsung Galaxy J2 Prime
от7 986руб.
Samsung Galaxy S7 32GB
от32 500руб.
Подпишитесь на нас
Новости Hi-Tech Mail.Ru