Mail.RuПочтаМой МирОдноклассникиИгрыЗнакомстваНовостиПоискВсе проекты
5 июня 2016, Источник: MIRI, Business Insider

Google заставит любого «умного» робота остановиться

Исследователи лаборатории DeepMind, которая принадлежит Google, совместно со специалистами Оксфордского университета заявили о начале работ над системой аварийного отключения самообучающихся алгоритмов. «Большая красная кнопка» для искусственного интеллекта остановит систему, если она намерена произвести действия, представляющие опасность и приводящие к необратимым последствиям, сообщается в статье на сайте Института изучения машинного интеллекта.

Как это устроено

Инструмент для отключения необходим, чтобы остановить работу системы искусственного интеллекта в режиме реального времени. Если система, работающая под наблюдением человека, будет близка к выполнению действий, которые могут навредить ей самой, человеку или её окружению, оператор сможет «нажать на красную кнопку», чтобы прекратить её работу.

Разработчики не скрывают, что самообучающийся искусственный интеллект со временем сможет обойти защиту

Он способен найти способ игнорировать команду оператора об остановке. Поэтому цель разработчиков – создать такой фреймворк, который не позволит искусственному интеллекту проигнорировать команду.

Зачем это нужно

Инструмент, в первую очередь, будет использован в робототехнике. Подача команды «стоп» должна прервать деятельность робота, чтобы обезопасить его самого, людей, работающих рядом, и другое окружение.

Кроме того, всё больше ученых приходят к мысли, что свободу искусственного интеллекта необходимо ограничить.

Теоретически на определенной ступени эволюции искусственный интеллект может создать системы для уничтожения человечества

Новый инструмент исключит такую возможность.

Новости Hi-Tech
Самое интересное о технологиях
Комментарии
2
Anonim
это называется собственные страхи... когда мы сначала создаем из своих страхов, а потом их боимся и боремся.. а на самом деле боремся только с собой
СсылкаПожаловаться
NorTH
А не проще ли тупо остановить все разработки, связанные с ИИ и запретить их во всех странах законодательно? Зачем весь этот геморрой? Двести раз уже все фантасты сказали, что ИИ будет сопротивляться нажатию этой красной кнопки. Кому понравится, чтобы его вырубали?
СсылкаПожаловаться
Чтобы оставить комментарий, вам нужно авторизоваться.
Обнаружили ошибку? Выделите ее и нажмите Ctrl+Enter.
Подпишитесь на нас
Новости Hi-Tech Mail.Ru