Mail.ruПочтаМой МирОдноклассникиИгрыЗнакомстваНовостиПоискВсе проекты
Рассылка
Получайте главные новости дня от Hi-Tech Mail.ru

Когда нас захватят роботы? 5 цитат экспертов — об искусственном интеллекте

Boston Dynamics научила роботов открывать другу другу дверь. Пока железяки прикидываются вежливыми, мы беспокоимся: что если они однажды перестанут уважать своих создаталей? Мы собрали наиболее яркие высказывания экспертов, предпринимателей и даже побежденных искусственным интеллектом людей. А вы решайте: паниковать уже сейчас или стоит подождать пару десятков лет.
1

Илон Маск обеспокоен развитием ИИ

Основатель компаний Tesla и SpaceX видит в ИИ угрозу человечеству, поскольку действия алгоритмов ничем не ограничены:

«Меня больше пугает, что ИИ будет осуществлять желания людей, которые заложат в алгоритм свои намерения, а они не всегда оказываются благими. ИИ будет нести всего лишь вспомогательную функцию.

Даже безобидное желание компании, например, 'поднять стоимость инвестиционного портфеля', алгоритм ИИ может понять так: окей, увеличим стоимость акций компаний оборонно-промышленного комплекса и начнем войну!

Или ИИ может начать создавать фейковые новости и пресс-релизы, подделывая учетные записи пользователей, и таким образом манипулировать информацией».

В связи с этим Маск призывает ввести законы, ограничивающие деятельность ИИ:

«Искусственный интеллект — тот случай, когда нужно быть достаточно дальновидными в вопросах регулирования, иначе может оказаться слишком поздно».

Еще в 2015 году Илон Маск, Стивен Хокинг и еще 8000 человек подписали открытое письмо, с просьбой относиться к ИИ осторожно.

2

Эндрю Ын — автор фразы: «ИИ — новое электричество»

Эндрю Ын, исследователь робототехники и машинного обучения, бывший руководитель подразделения по разработке ИИ в компании Baidu, считает, что наш страх по захвату человечества искусственным интеллектом преждевременен:

«Сегодня искусственный интеллект (ИИ) способен трансформировать многие отрасли: финансовые технологии, индустрию IT и здоровья. ИИ значительно повлиял на разработку и создание беспилотного транспорта. По технологиям ИИ работают поисковики, да даже доставка еды уже работает с подобными алгоритмами. Возможно, единственной сферой, которую ИИ не изменит, станет парикмахерское дело.

И хотя ИИ может выполнять многие функции (распознавать лица/предметы на фото, расшифровывать аудиозаписи), возможности интеллекта искусственного ограничены в сравнении с интеллектом человеческим.

Но если ИИ достаточно хорош в том, что делают люди, он может составить им конкуренцию и вскоре — заменить их. Однако, чтобы управлять ИИ, нужны знающие люди, а это обеспечивает новые рабочие места. Поэтому опасения, что ИИ истребит человечество, похоже на беспокойство по поводу перенаселенности Марса, куда еще не ступала нога человека».

3

Дмитрий Гришин разработал концепцию закона о робототехнике

В России с инициативой законодательного регулирования робототехники (как одной из областей ИИ) выступил Дмитрий Гришин, соучредитель Mail.Ru Group и основатель Grishin Robotics. И вот что предприниматель думает про ИИ:

«Многие говорят, что машинное обучение уже есть интеллект, но я всё-таки больше склоняюсь к тому, что это очень правильный и интересный механизм обработки и анализа больших данных, который не позволяет придумать совершенно новый алгоритм.

Робот, умеющий играть в шахматы, не научится сам играть в шашки. Всё немножко сложнее, машинное обучение нельзя назвать алгоритмом, но в целом эти подходы пока не способны самостоятельно изобрести что-то радикально новое. Поэтому я бы сказал, что ближайшие пять-десять лет нам не грозит встретить искусственный интеллект, который сам будет придумывать новые алгоритмы».

4

Сергей Марков говорит о необходимости сознательного подхода при создании ИИ

О необходимости законодательной базы для ИИ говорит и Сергей Марков, специалист по ИИ и машинному обучению, основатель портала XX2 ВЕК. Ученый считает, что опасность ИИ в человеке, который его создает:

«Главные риски [развития ИИ] связаны не с тем, что мы создадим «Скайнет», который поработит человечество. Доверяя решение важных вопросов тем или иным математическим моделям, мы можем пострадать от ошибок, допущенных при их разработке.

Искусственный интеллект, воспроизводящий действия людей-экспертов, унаследует их ошибки и предубеждения. Недоработки в системах управления производством или транспортом могут привести к катастрофам.

Безусловно, для управления этими рисками следует создавать законодательную базу, разумные регламенты безопасности, специальные методы для выявления уязвимостей».

5

Гарри Каспаров уверен, ИИ не нужно бояться, с ним нужно сотрудничать

«Более оптимистичен в прогнозах о развитии ИИ Гарри Каспаров — человек, ставший «олицетворением поражения в противоборстве человека и машины». В 1997 году шахматист проиграл своему электронному оппоненту IBM Deep Blue:

Когда-то машины заменили сельскохозяйственных животных, ручной труд, сейчас они угрожают людям с дипломами и политическим влиянием. И как тот, кто сражался с машиной и проиграл, я хочу сказать вам, что это замечательная, отличная новость. Технологии отлично справляются с устранением сложностей и неопределённостей из нашей жизни, так что мы должны искать ещё более сложные, ещё более неопределённые задачи.

Машины способны на вычисления. Мы способны на понимание. У машин есть инструкции. У нас — цели. Машинам присуща объективность. Нам — увлечённость.

Нам не следует беспокоиться о том, на что машины способны сегодня. Нам следует беспокоиться о том, на что они пока ещё не способны, потому что нам понадобится помощь новых, умных машин, чтобы воплотить наши величайшие мечты в реальность».

Понравился текст? Будем рады, если вы расскажете о нем друзьям! Нажмите на одну из кнопок :)
Хиты продаж и новинки
Самые лучшие цены на смартфоны
Вы подписались на рассылку.Отменить
Подписаться на рассылку
Комментарии
23
Мельник
Чепуха всё это. Всё это выдумки и , как бы это помягче сказать, безосновательные фантазии. Никогда никакие роботы не восстанут против человека. А вот сделать из робота опасное устройство вполне возможно уже сейчас. Бездумное создание алгоритмов с непредсказуемыми итогами их работы - это вполне нам по силам.)) Но это не будет восстание машин. Это будет всего лишь результат злодейского "человеческого фактора".))) Главный и опаснейший враг человечества - человек! И чтобы человечеству спастись -- его надо уничтожить!))) А вообще, иногда кажется, что человечество доиграется с этими делами. Нет, дело не машинах, роботах, ИИ, кот. никогда не будет, а в тупости одних и алчности других. Это очень даже реалистичный финал.
СсылкаПожаловаться
alex al
В ответ на комментарий от ABS
ABS
"Опасность того, что роботы станут умнее людей, существует. Но умные машины перестанут быть бездушными, они перестанут быть машинами в общепринятом понимании. Они станут разумными искусственными существами. И самое главное они фактический будут детьми человечества, если даже не сказать продолжением человечества. Ведь главное не плоть, а ум, сознание. И "роботы" будут нести в будущее человеческое, историю человечества, как потомки. Если люди не выживут. В этом торжество разума. Главное - разум, а в какой он коробке, костяной или титано-пластиковой, не имеет значения. Если робот может сострадать, переживать, любить и чувствовать все то, что чувствует человек, мы будем говорить, как говорим сейчас, что все имеют право на жизнь независимо от расы, цвета кожи, пола и будем добавлять независимо от происхождения - органического или неорганического.
Другой вопрос, что делать людям. А люди тоже перестанут быть людьми в нынешнем понимании. Люди, научатся интегрировать искусственный интеллект в костяную коробку взамен старого интеллекта и тогда не только не будут уступать роботам в умственном развитии, но и будут восприниматься роботами как равные, родственные. Будет две расы. Одна с искусственным интеллектом и органическим происхождением, и другая с искусственным интеллектом и неорганическим происхождением.
Главное на данный момент, заложить в роботов лучшие человеческие качества. Если и будет война, то война будет между человечеством, совместно с "правильными" роботами с одной стороны и "плохими" роботами, с другой стороны. Но надо понимать, люди будут уже не те, у людей будет суперинтеллект.
В начале люди станут киборгами, то есть люди начнут менять свои природные части тела на искусственные, более прочные, выносливые и заменяемые. Потом дойдет дело и до мозга. Люди, чтобы конкурировать с роботами, будут синтезировать свой мозг с искусственным интеллектом в части более быстрой оперативной памяти и в части хранения большого объема информации. Чтобы не потерять идентичность своего «Я». Но «Я» к какому-то моменту останется в мозге, где уже не будет органических «деталей», «природных элементов». То есть неизбежно свое «Я» человечество, в конечном счете, интегрирует в искусственный интеллект. И таким образом человечество «ассимилируется» среди роботов. То есть в принципе роботы могут и не воевать с людьми, они, люди, сами «придут» к ним! Вот это и будет переход человечества в другое состояние, вот таким образом и исчезнет человеческий вид, а не в какой-то глобальной суперкатастрофе!»
СсылкаПожаловаться
мне кажется, потребности ИИ будут сильно отличаться от человеческих, а потому поводов для конкуренции человека с роботом будет не много ... возможно, что ИИ возникнув, довольно быстро уйдет в отрыв. Вот какое отношение к человеку он будет воспроизводить, как это отношение будет эволюционировать ... Вообще, мне кажется очень любопытным, какой мотив может быть у сознания, существенно превосходящего человеческое, мотив к существования, действию, развитию?
СсылкаПожаловаться
alex al
В ответ на комментарий от Berik История переписки2
Berik
Хорошо, если этих роботов запрограммируют на ЛЮБОВЬ, а если нет? Где гарантии? ВСЕ зависит от программы и кто ЕЕ запустит.
СсылкаПожаловаться
Полагаю, что гарантии нет, есть шанс, вот воспользуемся мы им или нет ... Полагаю, чем больше в нашей жизни будет любви во всех аспектах жизни, тем более вероятным будет оптимистический вариант развития событий ...
СсылкаПожаловаться
Чтобы оставить комментарий, вам нужно авторизоваться.
Вы не ввели текст комментария
Вы не ввели текст комментария
Обнаружили ошибку? Выделите ее и нажмите Ctrl+Enter.
Подпишитесь на нас
Новости Hi-Tech Mail.ru