Mail.ruПочтаМой МирОдноклассникиИгрыЗнакомстваНовостиПоискСмотриComboВсе проекты

Когда нас захватят роботы? 5 цитат экспертов — об искусственном интеллекте

Boston Dynamics научила роботов открывать другу другу дверь. Пока железяки прикидываются вежливыми, мы беспокоимся: что если они однажды перестанут уважать своих создаталей? Мы собрали наиболее яркие высказывания экспертов, предпринимателей и даже побежденных искусственным интеллектом людей. А вы решайте: паниковать уже сейчас или стоит подождать пару десятков лет.
1

Илон Маск обеспокоен развитием ИИ

Основатель компаний Tesla и SpaceX видит в ИИ угрозу человечеству, поскольку действия алгоритмов ничем не ограничены:

«Меня больше пугает, что ИИ будет осуществлять желания людей, которые заложат в алгоритм свои намерения, а они не всегда оказываются благими. ИИ будет нести всего лишь вспомогательную функцию.

Даже безобидное желание компании, например, 'поднять стоимость инвестиционного портфеля', алгоритм ИИ может понять так: окей, увеличим стоимость акций компаний оборонно-промышленного комплекса и начнем войну!

Или ИИ может начать создавать фейковые новости и пресс-релизы, подделывая учетные записи пользователей, и таким образом манипулировать информацией».

В связи с этим Маск призывает ввести законы, ограничивающие деятельность ИИ:

«Искусственный интеллект — тот случай, когда нужно быть достаточно дальновидными в вопросах регулирования, иначе может оказаться слишком поздно».

Еще в 2015 году Илон Маск, Стивен Хокинг и еще 8000 человек подписали открытое письмо, с просьбой относиться к ИИ осторожно.

2

Эндрю Ын — автор фразы: «ИИ — новое электричество»

Эндрю Ын, исследователь робототехники и машинного обучения, бывший руководитель подразделения по разработке ИИ в компании Baidu, считает, что наш страх по захвату человечества искусственным интеллектом преждевременен:

«Сегодня искусственный интеллект (ИИ) способен трансформировать многие отрасли: финансовые технологии, индустрию IT и здоровья. ИИ значительно повлиял на разработку и создание беспилотного транспорта. По технологиям ИИ работают поисковики, да даже доставка еды уже работает с подобными алгоритмами. Возможно, единственной сферой, которую ИИ не изменит, станет парикмахерское дело.

И хотя ИИ может выполнять многие функции (распознавать лица/предметы на фото, расшифровывать аудиозаписи), возможности интеллекта искусственного ограничены в сравнении с интеллектом человеческим.

Но если ИИ достаточно хорош в том, что делают люди, он может составить им конкуренцию и вскоре — заменить их. Однако, чтобы управлять ИИ, нужны знающие люди, а это обеспечивает новые рабочие места. Поэтому опасения, что ИИ истребит человечество, похоже на беспокойство по поводу перенаселенности Марса, куда еще не ступала нога человека».

3

Дмитрий Гришин разработал концепцию закона о робототехнике

В России с инициативой законодательного регулирования робототехники (как одной из областей ИИ) выступил Дмитрий Гришин, соучредитель Mail.Ru Group и основатель Grishin Robotics. И вот что предприниматель думает про ИИ:

«Многие говорят, что машинное обучение уже есть интеллект, но я всё-таки больше склоняюсь к тому, что это очень правильный и интересный механизм обработки и анализа больших данных, который не позволяет придумать совершенно новый алгоритм.

Робот, умеющий играть в шахматы, не научится сам играть в шашки. Всё немножко сложнее, машинное обучение нельзя назвать алгоритмом, но в целом эти подходы пока не способны самостоятельно изобрести что-то радикально новое. Поэтому я бы сказал, что ближайшие пять-десять лет нам не грозит встретить искусственный интеллект, который сам будет придумывать новые алгоритмы».

4

Сергей Марков говорит о необходимости сознательного подхода при создании ИИ

О необходимости законодательной базы для ИИ говорит и Сергей Марков, специалист по ИИ и машинному обучению, основатель портала XX2 ВЕК. Ученый считает, что опасность ИИ в человеке, который его создает:

«Главные риски [развития ИИ] связаны не с тем, что мы создадим «Скайнет», который поработит человечество. Доверяя решение важных вопросов тем или иным математическим моделям, мы можем пострадать от ошибок, допущенных при их разработке.

Искусственный интеллект, воспроизводящий действия людей-экспертов, унаследует их ошибки и предубеждения. Недоработки в системах управления производством или транспортом могут привести к катастрофам.

Безусловно, для управления этими рисками следует создавать законодательную базу, разумные регламенты безопасности, специальные методы для выявления уязвимостей».

5

Гарри Каспаров уверен, ИИ не нужно бояться, с ним нужно сотрудничать

«Более оптимистичен в прогнозах о развитии ИИ Гарри Каспаров — человек, ставший «олицетворением поражения в противоборстве человека и машины». В 1997 году шахматист проиграл своему электронному оппоненту IBM Deep Blue:

Когда-то машины заменили сельскохозяйственных животных, ручной труд, сейчас они угрожают людям с дипломами и политическим влиянием. И как тот, кто сражался с машиной и проиграл, я хочу сказать вам, что это замечательная, отличная новость. Технологии отлично справляются с устранением сложностей и неопределённостей из нашей жизни, так что мы должны искать ещё более сложные, ещё более неопределённые задачи.

Машины способны на вычисления. Мы способны на понимание. У машин есть инструкции. У нас — цели. Машинам присуща объективность. Нам — увлечённость.

Нам не следует беспокоиться о том, на что машины способны сегодня. Нам следует беспокоиться о том, на что они пока ещё не способны, потому что нам понадобится помощь новых, умных машин, чтобы воплотить наши величайшие мечты в реальность».

Понравился текст? Будем рады, если вы расскажете о нем друзьям! Нажмите на одну из кнопок :)
Обзоры новинок
Подробности о главных премьерах
Комментарии
24
Болат Кабылбаев
В ответ на комментарий от ABS
ABS
"Опасность того, что роботы станут умнее людей, существует. Но умные машины перестанут быть бездушными, они перестанут быть машинами в общепринятом понимании. Они станут разумными искусственными существами. И самое главное они фактический будут детьми человечества, если даже не сказать продолжением человечества. Ведь главное не плоть, а ум, сознание. И "роботы" будут нести в будущее человеческое, историю человечества, как потомки. Если люди не выживут. В этом торжество разума. Главное - разум, а в какой он коробке, костяной или титано-пластиковой, не имеет значения. Если робот может сострадать, переживать, любить и чувствовать все то, что чувствует человек, мы будем говорить, как говорим сейчас, что все имеют право на жизнь независимо от расы, цвета кожи, пола и будем добавлять независимо от происхождения - органического или неорганического.
Другой вопрос, что делать людям. А люди тоже перестанут быть людьми в нынешнем понимании. Люди, научатся интегрировать искусственный интеллект в костяную коробку взамен старого интеллекта и тогда не только не будут уступать роботам в умственном развитии, но и будут восприниматься роботами как равные, родственные. Будет две расы. Одна с искусственным интеллектом и органическим происхождением, и другая с искусственным интеллектом и неорганическим происхождением.
Главное на данный момент, заложить в роботов лучшие человеческие качества. Если и будет война, то война будет между человечеством, совместно с "правильными" роботами с одной стороны и "плохими" роботами, с другой стороны. Но надо понимать, люди будут уже не те, у людей будет суперинтеллект.
В начале люди станут киборгами, то есть люди начнут менять свои природные части тела на искусственные, более прочные, выносливые и заменяемые. Потом дойдет дело и до мозга. Люди, чтобы конкурировать с роботами, будут синтезировать свой мозг с искусственным интеллектом в части более быстрой оперативной памяти и в части хранения большого объема информации. Чтобы не потерять идентичность своего «Я». Но «Я» к какому-то моменту останется в мозге, где уже не будет органических «деталей», «природных элементов». То есть неизбежно свое «Я» человечество, в конечном счете, интегрирует в искусственный интеллект. И таким образом человечество «ассимилируется» среди роботов. То есть в принципе роботы могут и не воевать с людьми, они, люди, сами «придут» к ним! Вот это и будет переход человечества в другое состояние, вот таким образом и исчезнет человеческий вид, а не в какой-то глобальной суперкатастрофе!»
СсылкаПожаловаться
это наверно нескоро друг ты мой А пока наслаждайся каждым днем!"
СсылкаПожаловаться
Мельник
Чепуха всё это. Всё это выдумки и , как бы это помягче сказать, безосновательные фантазии. Никогда никакие роботы не восстанут против человека. А вот сделать из робота опасное устройство вполне возможно уже сейчас. Бездумное создание алгоритмов с непредсказуемыми итогами их работы - это вполне нам по силам.)) Но это не будет восстание машин. Это будет всего лишь результат злодейского "человеческого фактора".))) Главный и опаснейший враг человечества - человек! И чтобы человечеству спастись -- его надо уничтожить!))) А вообще, иногда кажется, что человечество доиграется с этими делами. Нет, дело не машинах, роботах, ИИ, кот. никогда не будет, а в тупости одних и алчности других. Это очень даже реалистичный финал.
СсылкаПожаловаться
alex al
В ответ на комментарий от ABS
ABS
"Опасность того, что роботы станут умнее людей, существует. Но умные машины перестанут быть бездушными, они перестанут быть машинами в общепринятом понимании. Они станут разумными искусственными существами. И самое главное они фактический будут детьми человечества, если даже не сказать продолжением человечества. Ведь главное не плоть, а ум, сознание. И "роботы" будут нести в будущее человеческое, историю человечества, как потомки. Если люди не выживут. В этом торжество разума. Главное - разум, а в какой он коробке, костяной или титано-пластиковой, не имеет значения. Если робот может сострадать, переживать, любить и чувствовать все то, что чувствует человек, мы будем говорить, как говорим сейчас, что все имеют право на жизнь независимо от расы, цвета кожи, пола и будем добавлять независимо от происхождения - органического или неорганического.
Другой вопрос, что делать людям. А люди тоже перестанут быть людьми в нынешнем понимании. Люди, научатся интегрировать искусственный интеллект в костяную коробку взамен старого интеллекта и тогда не только не будут уступать роботам в умственном развитии, но и будут восприниматься роботами как равные, родственные. Будет две расы. Одна с искусственным интеллектом и органическим происхождением, и другая с искусственным интеллектом и неорганическим происхождением.
Главное на данный момент, заложить в роботов лучшие человеческие качества. Если и будет война, то война будет между человечеством, совместно с "правильными" роботами с одной стороны и "плохими" роботами, с другой стороны. Но надо понимать, люди будут уже не те, у людей будет суперинтеллект.
В начале люди станут киборгами, то есть люди начнут менять свои природные части тела на искусственные, более прочные, выносливые и заменяемые. Потом дойдет дело и до мозга. Люди, чтобы конкурировать с роботами, будут синтезировать свой мозг с искусственным интеллектом в части более быстрой оперативной памяти и в части хранения большого объема информации. Чтобы не потерять идентичность своего «Я». Но «Я» к какому-то моменту останется в мозге, где уже не будет органических «деталей», «природных элементов». То есть неизбежно свое «Я» человечество, в конечном счете, интегрирует в искусственный интеллект. И таким образом человечество «ассимилируется» среди роботов. То есть в принципе роботы могут и не воевать с людьми, они, люди, сами «придут» к ним! Вот это и будет переход человечества в другое состояние, вот таким образом и исчезнет человеческий вид, а не в какой-то глобальной суперкатастрофе!»
СсылкаПожаловаться
мне кажется, потребности ИИ будут сильно отличаться от человеческих, а потому поводов для конкуренции человека с роботом будет не много ... возможно, что ИИ возникнув, довольно быстро уйдет в отрыв. Вот какое отношение к человеку он будет воспроизводить, как это отношение будет эволюционировать ... Вообще, мне кажется очень любопытным, какой мотив может быть у сознания, существенно превосходящего человеческое, мотив к существования, действию, развитию?
СсылкаПожаловаться
alex al
В ответ на комментарий от Berik История переписки2
Berik
Хорошо, если этих роботов запрограммируют на ЛЮБОВЬ, а если нет? Где гарантии? ВСЕ зависит от программы и кто ЕЕ запустит.
СсылкаПожаловаться
Полагаю, что гарантии нет, есть шанс, вот воспользуемся мы им или нет ... Полагаю, чем больше в нашей жизни будет любви во всех аспектах жизни, тем более вероятным будет оптимистический вариант развития событий ...
СсылкаПожаловаться
Berik
В ответ на комментарий от alex al
alex al
то, что "роботы" "победят" "человека", если нас не прибьет метеоритом, или мы сами не убьемся, мне кажется, это неизбежно, но если эти роботы будут человечнее нас, более заряженные на любовь чем мы, то их "победа" над нами не кажется уже такой страшной, а может быть даже очерчивает смысл предназначение человека в эволюции мироздания ...
СсылкаПожаловаться
Хорошо, если этих роботов запрограммируют на ЛЮБОВЬ, а если нет? Где гарантии? ВСЕ зависит от программы и кто ЕЕ запустит.
СсылкаПожаловаться
alexander babchin
\untermensh hkockings uzhe sdox, no ego skelet vytaschili.
СсылкаПожаловаться
ABS
А давайте расширим эту тему!
Предложите свои идеи и напишем сценарии к фильму и предложим Спилбергу или Бекмамбетову!
СсылкаПожаловаться
Casp17
В ответ на комментарий от Николай Ребров
Николай Ребров
Каспаров очень умный человек.
СсылкаПожаловаться
Каспаров очень умный и гнилой
СсылкаПожаловаться
Casp17
В ответ на комментарий от ABS
ABS
"Опасность того, что роботы станут умнее людей, существует. Но умные машины перестанут быть бездушными, они перестанут быть машинами в общепринятом понимании. Они станут разумными искусственными существами. И самое главное они фактический будут детьми человечества, если даже не сказать продолжением человечества. Ведь главное не плоть, а ум, сознание. И "роботы" будут нести в будущее человеческое, историю человечества, как потомки. Если люди не выживут. В этом торжество разума. Главное - разум, а в какой он коробке, костяной или титано-пластиковой, не имеет значения. Если робот может сострадать, переживать, любить и чувствовать все то, что чувствует человек, мы будем говорить, как говорим сейчас, что все имеют право на жизнь независимо от расы, цвета кожи, пола и будем добавлять независимо от происхождения - органического или неорганического.
Другой вопрос, что делать людям. А люди тоже перестанут быть людьми в нынешнем понимании. Люди, научатся интегрировать искусственный интеллект в костяную коробку взамен старого интеллекта и тогда не только не будут уступать роботам в умственном развитии, но и будут восприниматься роботами как равные, родственные. Будет две расы. Одна с искусственным интеллектом и органическим происхождением, и другая с искусственным интеллектом и неорганическим происхождением.
Главное на данный момент, заложить в роботов лучшие человеческие качества. Если и будет война, то война будет между человечеством, совместно с "правильными" роботами с одной стороны и "плохими" роботами, с другой стороны. Но надо понимать, люди будут уже не те, у людей будет суперинтеллект.
В начале люди станут киборгами, то есть люди начнут менять свои природные части тела на искусственные, более прочные, выносливые и заменяемые. Потом дойдет дело и до мозга. Люди, чтобы конкурировать с роботами, будут синтезировать свой мозг с искусственным интеллектом в части более быстрой оперативной памяти и в части хранения большого объема информации. Чтобы не потерять идентичность своего «Я». Но «Я» к какому-то моменту останется в мозге, где уже не будет органических «деталей», «природных элементов». То есть неизбежно свое «Я» человечество, в конечном счете, интегрирует в искусственный интеллект. И таким образом человечество «ассимилируется» среди роботов. То есть в принципе роботы могут и не воевать с людьми, они, люди, сами «придут» к ним! Вот это и будет переход человечества в другое состояние, вот таким образом и исчезнет человеческий вид, а не в какой-то глобальной суперкатастрофе!»
СсылкаПожаловаться
Читал коммент Ваш как послесловие к фантастическому роману. Супер
СсылкаПожаловаться
ABS
"Опасность того, что роботы станут умнее людей, существует. Но умные машины перестанут быть бездушными, они перестанут быть машинами в общепринятом понимании. Они станут разумными искусственными существами. И самое главное они фактический будут детьми человечества, если даже не сказать продолжением человечества. Ведь главное не плоть, а ум, сознание. И "роботы" будут нести в будущее человеческое, историю человечества, как потомки. Если люди не выживут. В этом торжество разума. Главное - разум, а в какой он коробке, костяной или титано-пластиковой, не имеет значения. Если робот может сострадать, переживать, любить и чувствовать все то, что чувствует человек, мы будем говорить, как говорим сейчас, что все имеют право на жизнь независимо от расы, цвета кожи, пола и будем добавлять независимо от происхождения - органического или неорганического.
Другой вопрос, что делать людям. А люди тоже перестанут быть людьми в нынешнем понимании. Люди, научатся интегрировать искусственный интеллект в костяную коробку взамен старого интеллекта и тогда не только не будут уступать роботам в умственном развитии, но и будут восприниматься роботами как равные, родственные. Будет две расы. Одна с искусственным интеллектом и органическим происхождением, и другая с искусственным интеллектом и неорганическим происхождением.
Главное на данный момент, заложить в роботов лучшие человеческие качества. Если и будет война, то война будет между человечеством, совместно с "правильными" роботами с одной стороны и "плохими" роботами, с другой стороны. Но надо понимать, люди будут уже не те, у людей будет суперинтеллект.
В начале люди станут киборгами, то есть люди начнут менять свои природные части тела на искусственные, более прочные, выносливые и заменяемые. Потом дойдет дело и до мозга. Люди, чтобы конкурировать с роботами, будут синтезировать свой мозг с искусственным интеллектом в части более быстрой оперативной памяти и в части хранения большого объема информации. Чтобы не потерять идентичность своего «Я». Но «Я» к какому-то моменту останется в мозге, где уже не будет органических «деталей», «природных элементов». То есть неизбежно свое «Я» человечество, в конечном счете, интегрирует в искусственный интеллект. И таким образом человечество «ассимилируется» среди роботов. То есть в принципе роботы могут и не воевать с людьми, они, люди, сами «придут» к ним! Вот это и будет переход человечества в другое состояние, вот таким образом и исчезнет человеческий вид, а не в какой-то глобальной суперкатастрофе!»
СсылкаПожаловаться
В
На Марс, все на Марс!!!
СсылкаПожаловаться
Герман Соловьев
А.И. Герцен в 1849 г. правильно предсказывал исторический ход развития в России. Он писал: "Социализм разовьется во всех фазах своих до крайних последствий, до нелепостей. Тогда снова вырвется из титанической груди революционного меньшинства крик отрицания, и снова начнется смертная борьба, в которой социализм займет место нынешнего консерватизма и будет побежден грядущею, неизвестною нам революцией". Видимо, неизвестная нам революция - создание ИИ. Следовательно, следующий и, возможно, последний этап развития человечества будет "неизвестная революция", которую сделают не массы, а меньшинство от человечества. Что будет в основе этой революции? В основе этой революции будет перестройка Вселенной при помощи ИИ, где человечество станет бессмертным.
СсылкаПожаловаться
моушн-плюс
Надо сваливать на Марс
СсылкаПожаловаться
Анатолий Скрипник
когда обезьяна взяла палку её сородичи тоже кричали , что палка несет угрозу обезьянничеству, и где теперь эти обезьяны, одна эволюционировала в человека , а вторая продолжает прыгать по веткам, эволюционируйте, учитесь пользоваться новыми возможностями...
СсылкаПожаловаться
alex al
то, что "роботы" "победят" "человека", если нас не прибьет метеоритом, или мы сами не убьемся, мне кажется, это неизбежно, но если эти роботы будут человечнее нас, более заряженные на любовь чем мы, то их "победа" над нами не кажется уже такой страшной, а может быть даже очерчивает смысл предназначение человека в эволюции мироздания ...
СсылкаПожаловаться
Alien
Когда роботы нас захватят, то, стреляйте им, в ядерные батарейки!
СсылкаПожаловаться
Николай Ребров
Каспаров очень умный человек.
СсылкаПожаловаться
Юрий Щербаков
В ответ на комментарий от Екатерина
Екатерина
И при этом каждый из них прав ))) Это опасно, но преждевременно... Но потом вполне может оказаться поздно )))
СсылкаПожаловаться
Верите тем, кто ни разу не пробовал его сделать ? Ну, ну...
СсылкаПожаловаться
Юрий Щербаков
В ответ на комментарий от Admin
Admin
бред какой-то )) ИИ нужно управлять. он сам то понимает что сказал. Если ИИ превосходит нас а парикмахерское дело ему не нужно то почему бы ему нами не управлять да и вообще нафига мы ему?
СсылкаПожаловаться
В точку !
Сама суть главной проблемы искина - в его первичном назначении, в главной цели.
Либо пробовать его делать универсальным, либо изначально прикладным.
Главная опасность как раз в том, что прикладной искин изначально управляем,
т.е. всегда требует "бога", направляющего и корректирующего.
Который непременно попытается использовать его в своих, чисто людских целях.
Универсальный же искин - это "вещь сама по себе".
Он будет действовать самостоятельно, со своими задачами.
И мы ему особо не нужны. Параллельны...
СсылкаПожаловаться
Admin
бред какой-то )) ИИ нужно управлять. он сам то понимает что сказал. Если ИИ превосходит нас а парикмахерское дело ему не нужно то почему бы ему нами не управлять да и вообще нафига мы ему?
СсылкаПожаловаться
Чтобы оставить комментарий, вам нужно авторизоваться.
Вы не ввели текст комментария
Вы не ввели текст комментария
Обнаружили ошибку? Выделите ее и нажмите Ctrl+Enter.
Подпишитесь на нас