Mail.ruПочтаМой МирОдноклассникиИгрыЗнакомстваНовостиПоискВсе проекты
Рассылка
Получайте главные новости дня от Hi-Tech Mail.ru

Систему видеонаблюдения обманули картонкой

При помощи небольшого изображения на листе картона ученые сумели полностью скрыть человека от нейросети.

Искусственный разум может делать то, что обычному человеку не под силу — но в то же время он куда более наивен. Нейросеть, которая распознает человека в кадре, обмануть довольно таки просто — и бельгийские ученые это подтвердили.

Скриншот YouTube

Исследователи из Левенского католического университета показали, что небольшая картинка на куске картона может полностью скрыть человека от взора нейросети. По сути, это пример так называемой состязательной атаки. В ее основе — применение состязательных изображений, которые заставляют нейросеть видеть совсем другой объект.

Пример обмана показан на видео ниже. Для своего эксперимента ученые взяли YOLOv2 — специальный алгоритм распознавания, который в ответ на полученное изображение выделяет прямоугольниками объекты, которые он узнал. Изначально алгоритм узнает двоих людей в кадре. Но когда один из этих двоих берет в руки лист картона с изображением, или прикрепляет лист себе на пояс — нейросеть теряет человека из виду.

Эксперимент бельгийских ученых четко показывает, насколько все еще уязвимы системы распознавания. Просто наклеив специально созданное изображение на любой реальный объект (например, машину), такую систему легко одурачить.

Во время загрузки произошла ошибка.

Это тоже интересно:

Расскажи друзьям, как обмануть нейросеть — нажми одну из кнопок ниже!
Хиты продаж и новинки
Самые лучшие цены на смартфоны
Вы подписались на рассылку.Отменить
Подписаться на рассылку
Комментарии
10
Алексей С
В ответ на комментарий от Юрий Лосев История переписки5
Юрий Лосев
А нужен ли вам мой ответ? Судя по вашим слов "наша нейросеть крайне эффективно распознает образы", вы представитель какого-то коммерческого проекта. В истории с нейросетями маркетинга больше, чем перспектив в разработке ИИ. Это путь тупиковый. Я не просто так пишу, ибо имею образование в сфере IT и прикладной математики. Ну вы-то в теме, поэтому всё прекрасно понимаете. А тому, кто интересно, могут найти в сети материалы, где проблема изложена популярно.
Позволю лишь небольшую цитату:"Теоретическим пределом возможностей нейросетей является функционал мозжечка — фрагмента головного мозга homo sapiens, отвечающего за автоматические реакции. Сознательные мыслительные процессы опираются на другие части мозга. С помощью нейросетевых алгоритмов можно повторить функциональность муравья, но не человека. Согласно работам Роджера Пенроуза, знаменитая теорема Гёделя «о неполноте» приводит к невозможности реализации абстрактного мышления алгоритмическими средствами. Способность оперировать абстрактными понятиями («мир идей» Платона) является неотъемлемым свойством настоящего интеллекта." ___iemcommunity.ru/articles/Neural-Networks/
СсылкаПожаловаться
Под "нашей нейросетью" я имел в виду человеческий мозг, конечно. Прототип и пока в целом недостижимый идеал всех искусственных нейросетей. В части слабого ИИ прогресс очень велик, и, по-моему, именно это всем и нужно. Сильный ИИ породит столько потенциальных проблем (широко описанных в НФ), что можно только порадоваться, что в этом направлении ещё долго двигаться.
СсылкаПожаловаться
Олег Дудкин
Просто надо было добавить больше функций в эту сеть, детектор движения к примеру или датчики позволяющие видеть в другом спекторе излучения, аудио микрофон, т.е. комплекс разных средств и программ, а не только распознование по роже
СсылкаПожаловаться
Олег Дудкин
Просто надо было добавить больше функций в эту сеть, детектор движения к примеру или датчики позволяющие видеть в другом секторе излучения, аудио микрофон, т.е. комплекс разных средств и программ, а не только распознование по роже
СсылкаПожаловаться
Чтобы оставить комментарий, вам нужно авторизоваться.
Вы не ввели текст комментария
Вы не ввели текст комментария
Обнаружили ошибку? Выделите ее и нажмите Ctrl+Enter.
Подпишитесь на нас
Новости Hi-Tech Mail.ru