Илон Маск обеспокоен развитием ИИ
Основатель компаний Tesla и SpaceX видит в ИИ угрозу человечеству, поскольку действия алгоритмов ничем не ограничены:
«Меня больше пугает, что ИИ будет осуществлять желания людей, которые заложат в алгоритм свои намерения, а они не всегда оказываются благими. ИИ будет нести всего лишь вспомогательную функцию.
Даже безобидное желание компании, например, 'поднять стоимость инвестиционного портфеля', алгоритм ИИ может понять так: окей, увеличим стоимость акций компаний оборонно-промышленного комплекса и начнем войну!
Или ИИ может начать создавать фейковые новости и пресс-релизы, подделывая учетные записи пользователей, и таким образом манипулировать информацией».
В связи с этим Маск призывает ввести законы, ограничивающие деятельность ИИ:
«Искусственный интеллект — тот случай, когда нужно быть достаточно дальновидными в вопросах регулирования, иначе может оказаться слишком поздно».
Еще в 2015 году Илон Маск, Стивен Хокинг и еще 8000 человек подписали открытое письмо, с просьбой относиться к ИИ осторожно.
Эндрю Ын — автор фразы: «ИИ — новое электричество»
Эндрю Ын, исследователь робототехники и машинного обучения, бывший руководитель подразделения по разработке ИИ в компании Baidu, считает, что наш страх по захвату человечества искусственным интеллектом преждевременен:
«Сегодня искусственный интеллект (ИИ) способен трансформировать многие отрасли: финансовые технологии, индустрию IT и здоровья. ИИ значительно повлиял на разработку и создание беспилотного транспорта. По технологиям ИИ работают поисковики, да даже доставка еды уже работает с подобными алгоритмами. Возможно, единственной сферой, которую ИИ не изменит, станет парикмахерское дело.
И хотя ИИ может выполнять многие функции (распознавать лица/предметы на фото, расшифровывать аудиозаписи), возможности интеллекта искусственного ограничены в сравнении с интеллектом человеческим.
Но если ИИ достаточно хорош в том, что делают люди, он может составить им конкуренцию и вскоре — заменить их. Однако, чтобы управлять ИИ, нужны знающие люди, а это обеспечивает новые рабочие места. Поэтому опасения, что ИИ истребит человечество, похоже на беспокойство по поводу перенаселенности Марса, куда еще не ступала нога человека».
Дмитрий Гришин разработал концепцию закона о робототехнике
В России с инициативой законодательного регулирования робототехники (как одной из областей ИИ) выступил Дмитрий Гришин, соучредитель Mail.Ru Group и основатель Grishin Robotics. И вот что предприниматель думает про ИИ:
«Многие говорят, что машинное обучение уже есть интеллект, но я всё-таки больше склоняюсь к тому, что это очень правильный и интересный механизм обработки и анализа больших данных, который не позволяет придумать совершенно новый алгоритм.
Робот, умеющий играть в шахматы, не научится сам играть в шашки. Всё немножко сложнее, машинное обучение нельзя назвать алгоритмом, но в целом эти подходы пока не способны самостоятельно изобрести что-то радикально новое. Поэтому я бы сказал, что ближайшие пять-десять лет нам не грозит встретить искусственный интеллект, который сам будет придумывать новые алгоритмы».
Сергей Марков говорит о необходимости сознательного подхода при создании ИИ
О необходимости законодательной базы для ИИ говорит и Сергей Марков, специалист по ИИ и машинному обучению, основатель портала XX2 ВЕК. Ученый считает, что опасность ИИ в человеке, который его создает:
«Главные риски [развития ИИ] связаны не с тем, что мы создадим «Скайнет», который поработит человечество. Доверяя решение важных вопросов тем или иным математическим моделям, мы можем пострадать от ошибок, допущенных при их разработке.
Искусственный интеллект, воспроизводящий действия людей-экспертов, унаследует их ошибки и предубеждения. Недоработки в системах управления производством или транспортом могут привести к катастрофам.
Безусловно, для управления этими рисками следует создавать законодательную базу, разумные регламенты безопасности, специальные методы для выявления уязвимостей».
Гарри Каспаров уверен, ИИ не нужно бояться, с ним нужно сотрудничать
«Более оптимистичен в прогнозах о развитии ИИ Гарри Каспаров — человек, ставший «олицетворением поражения в противоборстве человека и машины». В 1997 году шахматист проиграл своему электронному оппоненту IBM Deep Blue:
Когда-то машины заменили сельскохозяйственных животных, ручной труд, сейчас они угрожают людям с дипломами и политическим влиянием. И как тот, кто сражался с машиной и проиграл, я хочу сказать вам, что это замечательная, отличная новость. Технологии отлично справляются с устранением сложностей и неопределённостей из нашей жизни, так что мы должны искать ещё более сложные, ещё более неопределённые задачи.
Машины способны на вычисления. Мы способны на понимание. У машин есть инструкции. У нас — цели. Машинам присуща объективность. Нам — увлечённость.
Нам не следует беспокоиться о том, на что машины способны сегодня. Нам следует беспокоиться о том, на что они пока ещё не способны, потому что нам понадобится помощь новых, умных машин, чтобы воплотить наши величайшие мечты в реальность».
