Роботы-убийцы объяснят людям свои решения

Американские специалисты разрабатывают нейросеть, которая сможет объяснять решения, принятые боевыми роботами. Это повысит уровень доверия человека к «электронным солдатам».

Проект Explainable Artificial Intelligence, или просто XAI (объяснимый искусственный интеллект) позволит людям и роботам лучше понимать друг друга. Нейросеть XAI будет выстраивать логическую цепочку «рассуждений» робота и показывать человеку, почему машина приняла именно такое решение — например, открыть огонь по конкретной цели.

Разработка ведется для создания в армии США смешанных робото-человеческих боевых подразделений. Пока что это сложно себе представить, но уже через несколько десятков лет роботы станут полноценными солдатами — такими же, как люди. Более того, они способны заменить человека в ситуациях, когда может возникнуть необходимость открыть огонь по живой цели. Такая замена формально избавит человека от ответственности за принятие смертоносного решения, но не сможет лишить его сомнений и угрызений совести, а также способна вызвать недоверие к роботам. Мало ли — может быть роботы на самом деле электронные маньяки, которым нравится убивать?

Благодаря внедрению новой системы, военные смогут понимать, по какому критерию машина оценила тот или иной объект или человека как угрозу.

Проект XAI должен решить эту проблему во взаимодействии человека и робота. Благодаря внедрению новой системы, военные (те, которые все еще живые люди) смогут понимать, по какому критерию машина оценила тот или иной объект или человека как угрозу. Более того, XAI сделает проще процесс адаптации боевых роботов к реалиям конкретного военного конфликта и снизит градус бессмысленной жестокости.

XAI сделает проще процесс адаптации боевых роботов к реалиям конкретного военного конфликта и снизит градус бессмысленной жестокости.

Новая разработка будет полезна не только военным. Ей можно найти применение и в гражданской сфере — в промышленности, системах безопасности и медицине. Пример подобного использования приводит Билл Фергюсон, ведущий специалист компании Raytheon, которая принимает непосредственное участие в разработке нейросети. «Если искусственный интеллект определил на рентгеновском снимке признаки рака легких, доктор может узнать, почему машина так решила. Компьютер подсветит все подозрительные участки, которые доктор мог проигнорировать, приняв за артефакты снимка. После этого доктор сможет сам определить, стоит ли корректировать диагноз, или же нейросеть ошиблась», — объясняет ученый.

Это тоже интересно:

• Рогозин отказался от разговора с российским роботом

• Роботы-пауки, которых вы можете не заметить