Google заставит любого «умного» робота остановиться

Как это устроено

Инструмент для отключения необходим, чтобы остановить работу системы искусственного интеллекта в режиме реального времени. Если система, работающая под наблюдением человека, будет близка к выполнению действий, которые могут навредить ей самой, человеку или её окружению, оператор сможет «нажать на красную кнопку», чтобы прекратить её работу.

Разработчики не скрывают, что самообучающийся искусственный интеллект со временем сможет обойти защиту

Он способен найти способ игнорировать команду оператора об остановке. Поэтому цель разработчиков – создать такой фреймворк, который не позволит искусственному интеллекту проигнорировать команду.

Зачем это нужно

Инструмент, в первую очередь, будет использован в робототехнике. Подача команды «стоп» должна прервать деятельность робота, чтобы обезопасить его самого, людей, работающих рядом, и другое окружение.

Кроме того, всё больше ученых приходят к мысли, что свободу искусственного интеллекта необходимо ограничить.

Теоретически на определенной ступени эволюции искусственный интеллект может создать системы для уничтожения человечества

Новый инструмент исключит такую возможность.