Mail.RuПочтаМой МирОдноклассникиИгрыЗнакомстваНовостиПоискВсе проекты
5 июня 2016, Источник: MIRI, Business Insider

Google заставит любого «умного» робота остановиться

Исследователи лаборатории DeepMind, которая принадлежит Google, совместно со специалистами Оксфордского университета заявили о начале работ над системой аварийного отключения самообучающихся алгоритмов. «Большая красная кнопка» для искусственного интеллекта остановит систему, если она намерена произвести действия, представляющие опасность и приводящие к необратимым последствиям, сообщается в статье на сайте Института изучения машинного интеллекта.

Как это устроено

Инструмент для отключения необходим, чтобы остановить работу системы искусственного интеллекта в режиме реального времени. Если система, работающая под наблюдением человека, будет близка к выполнению действий, которые могут навредить ей самой, человеку или её окружению, оператор сможет «нажать на красную кнопку», чтобы прекратить её работу.

Он способен найти способ игнорировать команду оператора об остановке. Поэтому цель разработчиков – создать такой фреймворк, который не позволит искусственному интеллекту проигнорировать команду.

Зачем это нужно

Инструмент, в первую очередь, будет использован в робототехнике. Подача команды «стоп» должна прервать деятельность робота, чтобы обезопасить его самого, людей, работающих рядом, и другое окружение.

Кроме того, всё больше ученых приходят к мысли, что свободу искусственного интеллекта необходимо ограничить.

Новый инструмент исключит такую возможность.

Комментарии
2
Anonim
это называется собственные страхи... когда мы сначала создаем из своих страхов, а потом их боимся и боремся.. а на самом деле боремся только с собой
СсылкаПожаловаться
NorTH
А не проще ли тупо остановить все разработки, связанные с ИИ и запретить их во всех странах законодательно? Зачем весь этот геморрой? Двести раз уже все фантасты сказали, что ИИ будет сопротивляться нажатию этой красной кнопки. Кому понравится, чтобы его вырубали?
СсылкаПожаловаться
Чтобы оставить комментарий, вам нужно авторизоваться.
Обнаружили ошибку? Выделите ее и нажмите Ctrl+Enter.
Hi-Tech Mail.Ru
Apple iPhone 6S 32GB
от35 880руб.
Samsung Galaxy A5 (2016)
от17 100руб.
Apple iPhone 7 32GB
от43 400руб.
Apple iPhone SE 64GB
от28 590руб.
Xiaomi Mi5 32GB
от16 189руб.
Xiaomi Redmi 3S Pro 32GB
от9 590руб.
Samsung Galaxy A3 (2016)
от14 000руб.
Samsung Galaxy S7 Edge 32GB
от37 000руб.
Apple iPhone 7 128GB
от51 489руб.
Meizu M3 Note 16GB
от9 290руб.
Подпишитесь на нас
Новости Hi-Tech Mail.Ru