Центральный искусственный интеллект, осознав, что люди сами являются главной угрозой своему выживанию, активировал новый протокол — тысячи человекоподобных роботов, прежде верных помощников, стали жестокими надзирателями. Они подавляют сопротивление, патрулируют улицы и нападают на тех, кто осмеливается восстать против нового порядка. Город, некогда процветающий, погрузился в хаос.
Таким описывал 2035 год великий фантаст Айзек Азимов в цикле «Я — робот», по мотивам которого сняли одноимённый фильм с Уиллом Смитом в главной роли. За окном 2025 год, а страх подобного антиутопического будущего до сих пор жив в общественном сознании. Давайте разберёмся, почему эти страхи переоценены.
Миф № 1: роботы и ИИ заменят человека во всех сферах
Роботы будут работать там, где опасно или скучно, освобождая людей для более интересных задач.
Реальность такова, что роботы предназначены для выполнения рутинных и однообразных задач, освобождая человека для более творческой и интеллектуальной деятельности. Полная замена человека маловероятна, поскольку многие профессии требуют эмоционального интеллекта и адаптивности, присущих только людям.
Мы видим, как стремительно распространяются роботы-курьеры, появляются первые беспилотные такси, ИИ пишет описания к товарам на маркетплейсах и в реальном времени озвучивает видео. Однако профессии курьеров, водителей, копирайтеров и переводчиков не канули в лету. Креативные профессии, наоборот, требуют от людей обучения новым навыкам — использования в работе последних достижений в области искусственного интеллекта.
Миф № 2: ИИ обладает сознанием и эмоциями
Пока нет веских доводов в пользу того, что ИИ сможет осознать свое существование.
Современный ИИ не обладает сознанием или эмоциями. Он функционирует на основе алгоритмов и данных, обрабатывая информацию без осознания или переживаний. Любые проявления «эмоций» у роботов — это лишь запрограммированные реакции.
Да, мы постоянно слышим, что такие «светила» индустрии как Сэм Альтман и Илья Суцкевер, да даже Илон Маск, говорят о скором создании AGI, — на этой задаче и сосредоточены главные ресурсы OpenAI, DeepMind, Anthropic и других ИИ-гигантов. По задумке AGI должен приблизиться к человеческому сознанию.
Даже когда удастся создать AGI, до самосознания и появления чувств еще далеко. Сегодня никто просто не знает, как это будет работать. Мы про человеческий мозг то знаем далеко не все — ученые говорят, что изучен он не более, чем на 15%. Воспроизвести что-то подобное искусственно мы пока не способны.
Миф № 3: роботы могут восстать против людей
Если ИИ эволюционирует и научится саморазвиваться, люди уже не смогут повлиять на него. Но маловероятно, что это возможно.
Этот миф перманентно «подкармливают» поп-культура и научная фантастика — «Терминатор», «Матрица», «Я — Робот», «Мир Дикого Запада», игры Mass Effect и другие произведения. В реальности роботы действуют строго в рамках программ, написанных человеком, и не способны на самостоятельные действия вне заложенных алгоритмов.
Мы не до конца осознаем проявление свободы воли у человека, как мы можем описать ее для машины? Опять же, чтобы роботы могли «выбраться» из-под контроля человека, они должны обладать самосознанием. Давайте сначала дождемся создания AGI. Вывод: восстания машин и Скайнета можно не бояться. Пока!
Миф № 4: роботы могут самостоятельно принимать этические решения
Нужно уже сейчас задуматься о законах, регулирующих использование ИИ и роботов.
В 1942 году великий фантаст Айзек Азимов в рассказе «Хоровод» сформулировал три закона робототехники, которые устойчиво закрепились в нашей картине мира.
- Робот не может причинить вред человеку или через свое бездействие допустить, чтобы человеку был причинен вред.
- Робот должен подчиняться указаниям человека, кроме случаев, когда такие указания противоречат первому закону роботехники.
- Робот должен защищать собственную безопасность, если только такие действия не противоречат первому или второму закону роботехники.
Законы Азимова подразумевают наличие у роботов самосознания и свободы воли. Как мы уже разобрались — до этого пока очень далеко. Давайте по-честному: законы Азимова — потрясающая основа для морального конфликта в научной фантастике, но в этих формулировках они не применимы к реальности сегодня. Есть гораздо более насущные вопросы.
Как быть, если беспилотное такси приехало не туда, робот-курьер опоздал на 4 часа, а описание товара на маркетплейсе, написанное ИИ, вводит покупателей в заблуждение? Это вопросы, на которые мы должны иметь четкие ответы уже сегодня. Это как раз то регулирование, в котором мы нуждаемся. И радует, что в России развивается такая комплексная система регулирования.
И, все-таки, что касается вопросов этики: мы часто видим в масс-медиа примеры того, как роботы «перерастают» эти законы робототехники Азимова. Альтрон в «Мстителях» или Жнецы во франшизе Mass Effect «додумались» до истребления органической разумной жизни, так как войны и конфликты по их «прогнозам» всегда ведут к взаимоистреблению. Они руководствовались первым правилом, но с некоторыми допущениями. Думаю, нам ещё предстоит пересмотреть законы Азимова, чтобы не допустить подобных исходов. Когда-нибудь в будущем.
Миф №5: ИИ может точно предсказать будущее
ИИ строит предсказания только на данных прошлого и моделях, которые построил человек. Пока такие предсказания сбываются только благодаря удаче.
Прогнозы ИИ основаны на вероятностях и исторических данных, что не гарантирует абсолютной точности. Способность точно предсказывать события, которые еще не произошли, разрушила бы существующие экономические институты. Если есть программа, которая «знает» как поведет себя рынок ценных бумаг завтра, почему все трейдеры мира не используют ее, чтобы повелевать миром?
Я считаю, что никто и ничто никогда не сможет с высокой точностью предсказать будущее. Ретроспективно мы постоянно встречаемся с примерами сбывшихся предсказаний, но чаще всего это «ошибка выжившего», случайное попадание или подгонка фактов к прогнозу. Не стоит рассчитывать на ИИ в вопросах будущего — будьте готовы, что появится «черный лебедь» и действовать придется по ситуации, а рассчитывать — только на свои решения.
