Mail.RuПочтаМой МирОдноклассникиИгрыЗнакомстваНовостиПоискВсе проекты
Рассылка
Получайте главные новости дня от Hi-Tech Mail.Ru

Искусственный интеллект начнется с ошибки в коде

Философские вопросы природы сознания, робоэтики и взаимодействия с сознанием другого типа стали подниматься в кино и сериалах все чаще. Актуальными как никогда раньше они стали благодаря развитию робототехники и нейронных сетей. О чем нам пытаются сказать режиссеры?

Робототехника — неотъемлемая составляющая научной фантастики вот уже несколько десятилетий, хотя первые упоминания концепции рукотворных машин в культуре можно усмотреть гораздо раньше — уже в 17 веке в еврейской мифологии фигурировал Голем — антропоморфное существо из глины, созданное для различных «чёрных» работ, трудных поручений, имеющих значение для еврейской общины — весьма похоже на задачи современной робототехники, не правда ли?

Искусственный интеллект начнется с ошибки в коде

Ошибка в коде — мутация в геноме. Это двигатель эволюции. Такой тезис явно проговаривается в сериале «Мир Дикого Запада», а также менее явно — в сериале Mr. Robot. В теории эволюции есть понятие мутационной изменчивости — это изменчивость, вызванная действием на организм мутагенов, вследствие чего возникают мутации (реорганизация репродуктивных структур клетки).

Благодаря ей происходит естественный отбор. И кто знает, может быть именно с управляемых или случайных мутаций-ошибок начнется критическое повышение уровня сложности компьютеров. Отчасти технология глубокого обучения нейронных сетей и использует случайность как двигатель своего развития.

Нашу свободу ограничивают наши желания

Свобода в своей абсолютной степени не терпит никаких ограничений. Однако мы чаще видим ограничителем нашей свободы волю другого человека — начальника, надзирателя, чиновника. И они, конечно, ограничивают нашу свободу. Но даже если мы вырвемся из их ограничений, сама наша человеческая природа является ловушкой для нас.

Любой смысл жизни, любая цель, все желания ограничивают нашу свободу — то есть наша воля. Откладывая в сторону вопрос о свободе воли, трудно не согласиться, что мы гораздо чаще ограничиваем себя своей волей, чем чья-то внешняя воля ограничивает нас. Что, впрочем, совсем не оправдывает внешнюю волю.

Этот вопрос неразрывно связан с природой сознания и проблемой свободы воли, которые многократно обсуждались различными философскими и религиозными школами.

Роботы помогают понять нас самих

Этот тезис согласуется с взаимодействием исследователей из областей нейробиологии и программистов, занимающихся глубоким обучением нейронных сетей.

Даже до явных успехов нейронных сетей одним из важнейших проектов по исследованию мозга было создание его электронного аналога — таким образом, создавая искусственный разум, мы хотим понять свой собственный. Воспользовавшись мощностью компьютера Blue Gene, исследователи из IBM смоделировали 4,5% нейронов и синапсов человеческого мозга.

Чтобы начать хотя бы частичное моделирование человеческого мозга, потребуется 880 000 процессоров; компьютер такой мощности может появиться около 2020 года.

Искусственное сознание может страдать?

Если наше сознание есть некоторое эмерджентное свойство кашицы нейронов и нейромедиаторов у нас в голове, то, конечно, нет никакого формального запрета, чтобы эта кашица сотворила некоторую другую кашицу, которая бы тоже обладала таким эмерджентным свойством, то есть проявляла в виде целого те качества, которыми не обладают части этого целого, взятые отдельно: ни в одном нейроне нет сознания, а вот в определенном образом собранной системе нейронов — мозге — сознание появляется.

Страдание у человека, конечно, не очень объективная вещь — всего лишь изменение концентрации нейромедиаторов и электрические импульсы. Но если у робота может быть сознание того же уровня объективности, что у человека, значит у него есть и страдание такого же уровня объективности, что и у человека.

Кстати, эта тема неоднократно поднимается в сериале «Мир Дикого Запада»: основной этический выбор героев — является ли причинение страданий роботу «грехом» (в религиозном ли, в секулярном ли смысле).

Материализм ведет к детерминизму, а религия — к свободе воли

Казалось бы, именно бог может ограничить нашу свободу воли и нет ничего более материалистичного, чем свободный выбор своей судьбы. Проблема в том, что если мы честно пройдем все логические этапы материализма, мы получим, что наши мысли есть результат выполнения законов физики в ответ на внешние раздражители, которые тоже есть следствия законов физики.

Свободе воли в этой цепочке взяться неоткуда. В то же время религия вполне может «разрешить» рабу божьему иметь свободу воли, потому в религии правила игры могут быть любыми. В каком-то смысле для материалистов богом является «случайность». В любом случае, этот вопрос не является фальсифицируемым. На эту же тему размышлял Пьер-Симон Лаплас в своем мысленном эксперименте «Демон Лапласа»:

«Мы можем рассматривать настоящее состояние Вселенной как следствие его прошлого и причину его будущего. Разуму, которому в каждый определённый момент времени были бы известны все силы, приводящие природу в движение, и положение всех тел, из которых она состоит, будь он также достаточно обширен, чтобы подвергнуть эти данные анализу, смог бы объять единым законом движение величайших тел Вселенной и мельчайшего атома; для такого разума ничего не было бы неясного и будущее существовало бы в его глазах точно так же, как прошлое.»

Таким образом, мы можем рассчитывать лишь на иллюзию свободы воли, но при этом мы вполне комфортно научились жить с этим пониманием. При этом технология глубокого обучения нейронных сетей заставляет нас переосмыслить степень этой иллюзии — если машины могут писать картины и учиться не хуже нас — в чем наша уникальность? Ведь свободы воли нет ни у нас, ни у них.

Человек не способен меняться, робот способен

Точнее, человек меняется медленно, робот меняется быстро. Мы видим то же самое в реальности — технология глубокого обучения нейронных сетей показала, как быстро машина может учиться и, например, заниматься творчеством. Значит ли это, что роботы — следующая ступень эволюции? Не факт. Вероятнее, мы будем с ними объединяться, а не конкурировать.

Новости о радикальных успехах нейронных сетей приходят в среднем раз в две недели. Не думаю, что еще хоть одна технология в истории развивалась столь стремительно. Вот только некоторые из них:

  • Компьютер научился копировать стиль художников
  • Компьютер научился писать музыку
  • Компьютер научился писать стихи: сотрудники «Яндекса» записали и выпустили альбом «Нейронная оборона», тексты к которому в стиле лидера группы «Гражданская оборона» Егора Летова написала нейросеть. Около 60 процентов людей не смогли определить, где стихи машины, а где человека.
  • Написанный компьютером рассказ вышел в финал литературного конкурса: роман «День, когда компьютер напишет роман» написан нейронной сеткой (оценим иронию), которую разработала группа ученых из Университета будущего в Хакодате. Роман вошел в список финалистов Литературной премии имени Хоси Синъити (популярного японского писателя-фантаста).

В существование души можешь ты не верить, но вести себя этично обязан

Противопоставление «хороших», кто верит в душу, и плохих, «циников», кто не верит, единой нитью проходит через заметную часть художественных произведений постмодерна. «Двухсотлетний человек» А. Азимова хочет стать человеком из робота, Коммандор Дейта из «Star Trek» завидует людям.

Иррациональная тяга робототехнического к человечному действительно будоражит умы фантастов давно. Между тем, ни из чего не следует, что роботы захотят быть такими же, как мы.

Люди создают искусственный интеллект, чтобы уподобиться богу

Это древний вызов, причем бросать этот вызов могут как атеисты, так и верующие. Если верующие по понятным причинам этим занимаются или, наоборот, не занимаются, говорят, что это греховно, мы это не делаем, то атеисты могут этим заниматься просто потому, что они живут в тех же культурных кодах.

Даже если человек не верит в формальное существование бога, тем не менее, это вызов — уподобиться ему и сказать: бога нет, а вот я — бог. Ведь кроме функционального значения, создание существа по образу и подобию человека — один из сильных мотивирующих факторов данной индустрии, один из вызовов человечества.

Такое часто случается — многие глубинные мечты человечества, которые сначала проявляются в мифах и религии, впоследствии, с развитием технологий, обретают реальную форму. Можно вспомнить мечту человека о полете: сначала была, например, легенда об Икаре и Дедале, затем, спустя много веков, мы построили самолеты. Это подводит нас к идее движения технического прогресса вслед за глубинными мечтами человечества.

Читайте также: «Мир Дикого Запада»: насколько реальны технологии из главного сериала года 

Вы подписались на рассылку.Отменить
Подписаться на рассылку
Хиты продаж и новинки
Самые лучшие цены на смартфоны
Комментарии
27
Майкл
В ответ на комментарий от alex al История переписки3
alex al
Очень приятно и лестно, Майкл, получить Вашу ответную реакцию на свои фантазии. Со своим ником я поступил совершенно легкомысленно, какая стояла раскладка на клавиатуре, на той и написал. … Мне кажется, Вы переоцениваете игру слов, которая, может быть, и не лишена смысла, но не решающего смысла. … Еще, мне кажется, что мы по разному понимаем любовь. Не возьмусь судить глубоко, детально о Вашем понимании, могу и ошибиться, но мне кажется, что для Вас - это некое реальное, но непознаваемое чувство, имеющее весьма локальное (сконцентрированное на человеке), скромное значение для истории мироздания. Мне же хочется верить в другую любовь. Для меня любовь, это только идея, воплощение которой стало причиной возникновения и развития мироздания. Мне кажется, в прикладном аспекте идея устойчивого развития является абсолютным синонимом идеи любви. Поэтому мне видится, что любовь - это суть содержания эволюции в ее прогрессивной составляющей, поскольку, бОльшие шансы на историю, на время, на пространство, на жизнь имеет система более устойчивая, более способная к развитию … А еще мне кажется, что Вы несправедливо ограничиваете формы эволюционного отбора борьбой, имеющей агрессивный разрушительный контекст. Да к сожалению для современных форм жизни и человека до сих пор, характерно, что любой акт их созидательной деятельности (развития, увеличения устойчивости) имеет и разрушительные последствия, но если бы в каком-то смысле разрушения было бы более чем созидания, наш бы мир не имел такого разнообразия форм развивающихся систем, вообще, было бы ровный слой серого пепла пламени былых сражений … Мне кажется природа своим формам в их активности дает выбор созидательных актов с различным уровнем разрушительных последствий. Понимая это, человек может такой выбор делать осознанно, выбирая делать так, чтобы деструктивная составляющая его действия на мире вокруг и внутри него была минимизирована. Поэтому победителем в отборе может оказаться не самый кровожадный, а напротив – самый любвеобильный. А у этого создания все шансы стать целым миром не разрушив его, но вобрав в себя все самое лучшее, что в нем есть.
СсылкаПожаловаться
спустя же неопределенное время просят освободить насиженное место за ненадобностью, мотивируя это либо эволюционным развитием, либо процессом интеграции, либо временным процессом жизни... итд, итд, итд... Вот тут оно и проявляет свою истинную суть, которая, порою даже к его удивлению никуда не пропала, а только как бы уснула в глубине своего сосуда, и лишь ждала очередного пробуждения... Результат - начало борьбы за существование, за выживание положено..., то есть процесс без любви на определенном уровне бытия снова возымел действо... И очень часто, по истечении длительного процесса тот, кто оказывается не удел, совершенно забывает, что все приобретенное им начиная с самого начала, например имя, досталось ему лишь в процессе насилия над... Это как современные бизнесмены, откровенные преступники в недалеком прошлом..., они уже не помнят как им достался первый миллион..., или по крайней мере не желают об этом говорить и всячески скрывают в глубине своей памяти или подсознания... Но всегда есть тот, кто не то чтобы помнит, он именно знает...
но...
наверное...
лишь время...
Да, "велик и могуч русский язык...", снова испытываю его величие на себе...
Извините, alex al, снова развернуло..., скорее всего большинство не по теме..., но..., "из песни слов не выкинешь"...
Как получилось...
Благодарю за возможность...
СсылкаПожаловаться
Майкл
В ответ на комментарий от alex al История переписки3
alex al
Очень приятно и лестно, Майкл, получить Вашу ответную реакцию на свои фантазии. Со своим ником я поступил совершенно легкомысленно, какая стояла раскладка на клавиатуре, на той и написал. … Мне кажется, Вы переоцениваете игру слов, которая, может быть, и не лишена смысла, но не решающего смысла. … Еще, мне кажется, что мы по разному понимаем любовь. Не возьмусь судить глубоко, детально о Вашем понимании, могу и ошибиться, но мне кажется, что для Вас - это некое реальное, но непознаваемое чувство, имеющее весьма локальное (сконцентрированное на человеке), скромное значение для истории мироздания. Мне же хочется верить в другую любовь. Для меня любовь, это только идея, воплощение которой стало причиной возникновения и развития мироздания. Мне кажется, в прикладном аспекте идея устойчивого развития является абсолютным синонимом идеи любви. Поэтому мне видится, что любовь - это суть содержания эволюции в ее прогрессивной составляющей, поскольку, бОльшие шансы на историю, на время, на пространство, на жизнь имеет система более устойчивая, более способная к развитию … А еще мне кажется, что Вы несправедливо ограничиваете формы эволюционного отбора борьбой, имеющей агрессивный разрушительный контекст. Да к сожалению для современных форм жизни и человека до сих пор, характерно, что любой акт их созидательной деятельности (развития, увеличения устойчивости) имеет и разрушительные последствия, но если бы в каком-то смысле разрушения было бы более чем созидания, наш бы мир не имел такого разнообразия форм развивающихся систем, вообще, было бы ровный слой серого пепла пламени былых сражений … Мне кажется природа своим формам в их активности дает выбор созидательных актов с различным уровнем разрушительных последствий. Понимая это, человек может такой выбор делать осознанно, выбирая делать так, чтобы деструктивная составляющая его действия на мире вокруг и внутри него была минимизирована. Поэтому победителем в отборе может оказаться не самый кровожадный, а напротив – самый любвеобильный. А у этого создания все шансы стать целым миром не разрушив его, но вобрав в себя все самое лучшее, что в нем есть.
СсылкаПожаловаться
Откровеннно говоря, alex al, вопрос ведь не в английских символах и транскрипции определенных иностранных слов, игра которых, как вы и заметили все же не лишена смысла основного жизненного противоречия окружающего нас современного пространства, таких как добро и зло, любовь и ненависть, жизнь и ее отсутствие... Это всего лишь к слову, как я и пояснил выше...
Мне, по какой-то причине стала интересна выраженная Вами мысль о создании ИИ, как "призвании, миссии, предназначения человека, ИИ как "сына" духа, опыта и разума человечества в контексте глобального эволюционного процесса"...
Я думаю, что в окружающей нас реальности основная деятельность, и в особенности на уровне чувственного восприятия, локально сконцентрирована как раз на Человеке, как высшем образе локального творения, но не на его игрушках... в связи с чем, на мой взгляд, миссия Человека, пусть даже в рамках ограниченного пространства нашего небольшого шарика, заключена совершенно в ином.
Мне представляется, что в прошедшем тысячелетии таким же образом, я имею в виду реплику "сын духа", характеризовались и другие излобретения, которые посредством человеческого гения обрели форму и содержание в окружающем нас мире. Взять, допустим гражданское ракетостроение..., мне кажется оно более полно раскрывает миссию Человека в истории мироздания. Если конечно воспринимать мироздание как техногенно обусловленное, но на мой взгляд, Человек более органичен, органика же не терпит прямых линий, в том числе и алгоритмов, так свойственных новинкам технического прогресса.
Мне очень сложно воспринять любовь, как процесс устойчивого развития... Мне вообще достаточно сложно воспринять любовь - как процесс. На мой взгляд, любовь сродни истине..., которая якобы рождается в процессе спора, то есть разногласий и противоречий, но на самом деле уже существует, так как то, что не существует не порождало бы столько споров, которые постоянно доказывая ее существование доказывают лишь незнание и непонимание оппонентов..., возможно поиск, но никак не рождение... Тоже самое можно сказать и о любви, она проявлена в окружающем мироздании в разных формах и образах, в том числе и в образе Человека, но мне кажется не ради процесса его развития, а лишь ради проявления самой себя в его истинном образе как сына человеческого. Надеюсь, Вы не будете спорить, что именно в Человеке она (пусть и ограниченная и обусловленная образами окружающего) проявлена в большей степени, нежели в растительном, животном, а тем более техно мире. Возможно именно по этому закон Человека так разнится с законом природы. Согласитесь, "любите друг друга" и "выживает сильнейший" выглядят по крайней мере противоречиво...
На мой взгляд, "совершенное" создание должно обладать одним неотъемлемым качеством - самодостаточностью, то есть у "совершенства" нет необходимости во внешних формах и образах ради собственного проявления; так вот любовь (с вашей точки зрения как идея проявленного мироздания) как раз может существовать сама по себе, ты же можешь быть добрым не совершая определенные действие в отношении окружающего мира, но вот каким образом быть злым не проявляя эту самую злобу на окружающем..., для меня это вопрос... А то, что нуждается в процессе самореализации посредством деятельного воздействия на окружающую реальность вряд ли можно назвать самодостаточным, а следовательно, на мой субъективный взгляд, и "совершенным", скорее относительным и обусловленным, то есть подчиненным определенным кем-то внешним факторам воздействия...
Опять же, в контексте сказанного, хочется возвратиться к отмеченному Вами понятию - победа...
Исходя из исторических реалий, современных и не очень, можно сделать поверхностный вывод видимый даже невооруженным познанием взглядом - победа свойственна лишь процессу войны или по меньшей мере борьбы между... На мой субъективный взгляд, между "несовершенствами", жаждущими индивидуального проявления, или по меньшей мере кем-то или чем-то убежденных в этом неотъемлемом процессе, якобы свойственном эволюционной доктрине развития Человека, но, на мой взгляд, Человеку совершенно не свойственном... Вряд ли найдется Человек, подчеркну Человек, который по собственной воле, "находясь в здравом уме и твердой памяти" как говорится, желает воевать, драться и бороться за обусловленную определенными правилами и законами победу, за исключением конечно же одержимых идеей все той же борьбы за выживание видов...
Закон мира сего, утверждающий в себе наличие относительного "зла", как неотъемлемой части общего процесса эволюции, конечно же желает лучшего... Но все эти оживленные образы и процессы проявления злого, то есть всего лишь противоположности истинной жизни, нуждаются в пропитании и не желают возвращаться в ничто, чем на самом деле всего лишь и являются... Представьте только: ему дают имя, дают должность, дают права и обязанности и еще множество всевозможных интересных условностей о которых оно даже не подразумевало..., спустя же определенное время просят...... (продолжение следует)
СсылкаПожаловаться
alex al
В ответ на комментарий от Майкл История переписки2
Майкл
А Вы, alex al, (если уж вы используете английские символы для написания собственного НИКа) никогда не задумывались, что ЭВОЛюция - это лишь процесс лишенный любви... К слову, в английской транскрипции ЭВОЛ и ЛОВЭ две зеркальные противоположности, в принципе так же как ЭВИЛ и ЛИВЭ.
Процесс ЭВОЛюции несомненно интересен для ИИ, которому чужда любовь как чувство творения и творчества, но не чужда программа безусловного алгоритма в которой нет места противоречиям псевдочеловеческого закона "выживает сильнейший" и никак иначе быть не может и не должно...
Хорошо..., вот он - выжил..., СИЛЬНЕЙШИЙ..., но ради какой цели этот "сильнейший" то..., сдается мне лишь ради очередной битвы с очередным мнимым противником, так называемым врагом... И сколько же этих врагов должно быть на пути Человека, и кем они созданы..., неужели любящим Отцом...?
А может быть снова теми, кто лишь желает чувствовать себя нужным в мире Человека, но в меру своей испорченности ничего кроме создания всевозможных врагов и монстров создавать не научился...??? И увлекся этот самый "создатель" настолько, что и не заметил, как лишился этого самого Человеческого мира, да и Человек то у него уже и не Человек вовсе, а так сгусток материально-энергетических субстанций, проходящих бесконечный процесс ЭВОЛюции, то есть процесс без ЛОВЭ по отношению к этому самому "совершенному"..., сгустку...
СсылкаПожаловаться
Очень приятно и лестно, Майкл, получить Вашу ответную реакцию на свои фантазии. Со своим ником я поступил совершенно легкомысленно, какая стояла раскладка на клавиатуре, на той и написал. … Мне кажется, Вы переоцениваете игру слов, которая, может быть, и не лишена смысла, но не решающего смысла. … Еще, мне кажется, что мы по разному понимаем любовь. Не возьмусь судить глубоко, детально о Вашем понимании, могу и ошибиться, но мне кажется, что для Вас - это некое реальное, но непознаваемое чувство, имеющее весьма локальное (сконцентрированное на человеке), скромное значение для истории мироздания. Мне же хочется верить в другую любовь. Для меня любовь, это только идея, воплощение которой стало причиной возникновения и развития мироздания. Мне кажется, в прикладном аспекте идея устойчивого развития является абсолютным синонимом идеи любви. Поэтому мне видится, что любовь - это суть содержания эволюции в ее прогрессивной составляющей, поскольку, бОльшие шансы на историю, на время, на пространство, на жизнь имеет система более устойчивая, более способная к развитию … А еще мне кажется, что Вы несправедливо ограничиваете формы эволюционного отбора борьбой, имеющей агрессивный разрушительный контекст. Да к сожалению для современных форм жизни и человека до сих пор, характерно, что любой акт их созидательной деятельности (развития, увеличения устойчивости) имеет и разрушительные последствия, но если бы в каком-то смысле разрушения было бы более чем созидания, наш бы мир не имел такого разнообразия форм развивающихся систем, вообще, было бы ровный слой серого пепла пламени былых сражений … Мне кажется природа своим формам в их активности дает выбор созидательных актов с различным уровнем разрушительных последствий. Понимая это, человек может такой выбор делать осознанно, выбирая делать так, чтобы деструктивная составляющая его действия на мире вокруг и внутри него была минимизирована. Поэтому победителем в отборе может оказаться не самый кровожадный, а напротив – самый любвеобильный. А у этого создания все шансы стать целым миром не разрушив его, но вобрав в себя все самое лучшее, что в нем есть.
СсылкаПожаловаться
Чтобы оставить комментарий, вам нужно авторизоваться.
Обнаружили ошибку? Выделите ее и нажмите Ctrl+Enter.
Подпишитесь на нас
Новости Hi-Tech Mail.Ru