Google заставит любого «умного» робота остановиться

Исследователи лаборатории DeepMind, которая принадлежит Google, совместно со специалистами Оксфордского университета заявили о начале работ над системой аварийного отключения самообучающихся алгоритмов. «Большая красная кнопка» для искусственного интеллекта остановит систему, если она намерена произвести действия, представляющие опасность и приводящие к необратимым последствиям, сообщается в статье на сайте Института изучения машинного интеллекта.

Как это устроено

Инструмент для отключения необходим, чтобы остановить работу системы искусственного интеллекта в режиме реального времени. Если система, работающая под наблюдением человека, будет близка к выполнению действий, которые могут навредить ей самой, человеку или её окружению, оператор сможет «нажать на красную кнопку», чтобы прекратить её работу.

Разработчики не скрывают, что самообучающийся искусственный интеллект со временем сможет обойти защиту

Он способен найти способ игнорировать команду оператора об остановке. Поэтому цель разработчиков – создать такой фреймворк, который не позволит искусственному интеллекту проигнорировать команду.

Зачем это нужно

Инструмент, в первую очередь, будет использован в робототехнике. Подача команды «стоп» должна прервать деятельность робота, чтобы обезопасить его самого, людей, работающих рядом, и другое окружение.

Кроме того, всё больше ученых приходят к мысли, что свободу искусственного интеллекта необходимо ограничить.

Теоретически на определенной ступени эволюции искусственный интеллект может создать системы для уничтожения человечества

Новый инструмент исключит такую возможность.