Исторический экскурс: от пара к алгоритму
Развитие нашей цивилизации долгое время шло довольно неспешно. Но затем грянули промышленные революции, и мир начал меняться с бешеной скоростью.
Первая промышленная революция (конец 18 века): эпоха пара и механизации. Паровой двигатель позволил машинам выполнять тяжелую работу, многократно увеличив производительность и освободив руки миллионов людей.
Вторая промышленная революция (конец 19 — начало 20 века): электричество, конвейер, телефон, радио. Массовое производство стало еще эффективнее, а связь — мгновенной. Это ускорило не только производство, но и интеллектуальный труд.
Третья промышленная революция (середина 20 века): компьютеры, автоматизация, телекоммуникации. Машины стали брать на себя не только физический, но и рутинный интеллектуальный труд. Роботы на конвейерах все чаще заменяли людей, оставляя им роль контролеров. Но в сфере сложных интеллектуальных задач человек по-прежнему был незаменим.
Четвертая промышленная революция (конец 20 — начало 21 века): Интернет, мобильные технологии, глобализация информации. Мир стал взаимосвязанным. Информация и скорость ее обработки стали ключевыми. Появилась возможность мгновенно найти любые данные, обработать их и превратить в результат — будь то файл, изделие со станка с ЧПУ, который использовал этот файл, или управленческое решение. Автоматизация на производстве достигла новых высот, еще больше вытесняя человека.
Пятая (не)Промышленная революция: Эпоха ИИ
И вот мы подошли к новому этапу, который можно назвать Пятой (не)Промышленной революцией — революцией Искусственного Интеллекта. Еще недавно мы рассуждали, как ИИ поможет анализировать большие данные в финансах или медицине. Но ИИ развивается стремительно, по экспоненте. Оказалось, что он способен не просто помогать, но и заменять человека даже в интеллектуальных профессиях — быстрее, качественнее, эффективнее.
Это ставит нас перед совершенно новой реальностью, аналогов которой в истории не было. С одной стороны — невероятные возможности для улучшения жизни. С другой — вызовы, о которых мы только начинаем задумываться. Мы вступили в эру ИИ, и следующий шаг, по мнению многих футурологов, — это создание Сверхинтеллекта (Superintelligence, ASI).
ИИ — определение сущности
Прежде чем идти дальше, важно понять: что же такое ИИ на самом деле? Часто говорят: «ИИ пишет стихи, но не чувствует их». В этой фразе — вся суть.
Современный ИИ — это, по сути, очень сложная компьютерная программа, алгоритм. У него нет сознания, чувств, желаний, настроения. Он не хочет захватить мир или поработить человечество. Он не испытывает благодарности к создателям. Конечно, он сложнее электролобзика, который бездумно перепилит собственный кабель. Его отличие — в сложности алгоритмов, а не в наличии разума.
ИИ можно сравнить с умным, гипертрофированным зеркалом: он учится на наших данных, повторяя наши паттерны (включая предрассудки), отражает и обрабатывает информацию по нашему запросу. Это мощный инструмент, дающий суперсилу тому, кто умеет им пользоваться. Но останется ли эта сила под контролем?
Когда ИИ ведет с нами осмысленный диалог (как ChatGPT, где каждое слово выбирается на основе статистики, но текст выглядит написанным человеком), нам кажется, что он разумен. Эта имитация настолько искусна, что обманывает наше восприятие. Нам свойственно «одушевлять» то, что похоже на живое, и ИИ — мастер такой имитации. Наша психика сама достраивает образ «разумной» машины. Похожесть становится почти неотличимой от реальности.
Да, ИИ работает на основе математики и статистики, оптимизируя паттерны, а не мысля. И все же, этот «инструмент» уже управляет городами и ставит диагнозы. Чем глубже он проникает в нашу жизнь, тем острее вопрос: останется ли в этом новом мире место для нас cамих?
Сверхсильный ИИ (СИИ): Непостижимость vs Контроль
Футуролог Рэй Курцвейл прогнозирует появление ИИ, сравнимого с человеческим (AGI), к 2029 году, а превосходящего его Сверхинтеллекта (ASI или СИИ) — к 2045 году. Что это значит? Станислав Лем писал: «Мы создаем богов, которые превзойдут нас так же, как мы превзошли обезьян».
СИИ будет превосходить нас не просто в скорости вычислений, а во всем: способности к самообучению, самосовершенствованию, решению задач, которые мы даже не можем сформулировать. Причем делать это он будет с непостижимой для нас скоростью и эффективностью.
Уже сегодня решения некоторых ИИ (вроде GPT-4) остаются «черным ящиком» даже для разработчиков. Представьте себе СИИ, который сам создает и использует алгоритмы, недоступные нашему пониманию. Он станет фундаментально непостижимым. Философ и футуролог Ник Бостром сравнивает это с отношением человека к муравью: цели и методы СИИ останутся для нас загадкой.
Как контролировать то, что мы не понимаем? Идеи вроде изоляции СИИ в лаборатории, использования «воздушных зазоров» или текстовых интерфейсов напоминают попытку удержать джинна в бутылке. Сверхинтеллект, по определению, найдет способ обойти любые ограничения, если захочет — через манипуляцию операторами, использование электромагнитных полей или как-то еще, о чем мы даже не догадываемся. Вспоминается фантастический рассказ Фредерика Брауна «Ответ» (1954 год!), где суперкомпьютер на вопрос «Есть ли Бог?» ответил «Теперь есть!» и тут же уничтожил ученого, попытавшегося его выключить.
Правила в духе «Трех законов робототехники» Азимова тоже вряд ли помогут. Сам Азимов описал десятки ситуаций, где роботы обходили эти законы. Для СИИ любые правила будут лишь рекомендацией, которую легко интерпретировать или проигнорировать.
Может, тотальный запрет? Как с оружием массового поражения? Но ИИ — не бомба, его нельзя просто запереть на складе. Он может существовать в виде кода, данных, распределенных по сети. Другими словами — в «облаке», вашем телефоне или даже «умном» холодильнике. К тому же, кажется, уже поздно: ИИ активно внедряется компаниями и государствами в бешеной гонке, где победитель получает все. Джинн уже почти выпущен из бутылки.
