Главная | Новости | Полезная информация | Документация | Школа | Файлы | Ссылки | Форум
 Текущая сборка
RusNuke Current
Web-SVN
SVN репозиторий
Bug Tracker

 Навигация
Главная
Новости
Обзоры
Информация
Документация
Вопросы и ответы
Каталог файлов
Каталог ссылок
Информация о проекте
Рассылка новостей
Контакт с автором
Наполнение сайта
Добавить статью
Добавить файл
Добавить ссылку

Наши услуги
Обменный пункт WM
Реклама на проекте
Платные услуги
Услуги хостинга

Отраслевые публикации
Статьи по отраслям

 Поиск по сайту


Google
Web nukefiles.ru


Проблема распознавания изображений в ИИ



Состязательность изображения самая большая нерешенная проблема в ИИ на данный момент и прогресс проходит, но по неправильному пути. Сейчас мы достигли определенного прогресса в обнаружении, когда изображения были специально построены, чтобы обмануть нейронную сеть. Наличие состязательности сторон изображения было огромным шоком, когда они были обнаружены, но, возможно, не достаточно большим шоком. Мы полагаем большие надежды на будущее ИИ, а сверточная нейронная сеть может удивительно легко вестись на специально сконструированные образы. Состязательность изображений строится путем фотографирования, что нейронная сеть правильно классифицирует, добавив в каждый пиксель ничтожное значение. Эти крошечные значения должны быть тщательно вычислены, иначе при добавлении они вызывают ошибки в распознавании нейронными сетями, хотя это выглядит так же для человека. Это не так же, как работает глаз человека, и это увеличивает расстояние между нами и нашими любимыми нейронными сетями.

Некоторые исследователи изучают эту проблему, но почему-то глубинные вопросы изображений остались в стороне с меньшим опасением, чем то, что некоторые злоумышленники смогут извратить функционирование нейронной сети, предлагая ей враждебные образы. В этом мировоззрении враждебные образы являются своего рода обеспечением для AI и что нужно делать с вредоносными программами- так это остановить их.

В двух новых документах, по крайней мере, появилась информация, по которой предположительно вы сможете обнаружить состязательность изображения. Одним из исследователей были Symantec:

Обнаружение враждебных образцов в артефактах

Глубокие нейронные сети являются мощными нелинейными архитектурами, которые, как известно, устойчивы к случайным возмущениям входных данных. Однако, эти модели подвержены состязательности возмущений--малым изменениям входного сигнала, которые явно созданы для одурачивания модели. В данной работе, мы узнаем могут ли нейронные сети отличить враждебные образцы от их нормальных, но шумных коллег. Мы исследуем модель доверия на основе состязательности образов, глядя на Байесовские оценки неопределенностей, существующих в отключение нейронных сетей, а также путем выполнения оценки плотности в глубоком подпространстве, с которыми познакомились на модели.

Результатом является метод для неявного противоборства обнаружению, не обращая внимания на алгоритм атаки. Мы оцениваем этот метод на различных стандартных наборах данных, включая MNIST и CIFAR-10 и показываем, что он применим для различных архитектур и атак. Ключом к этой технике, является предположение, что враждебные образы не являются частью естественного распространения изображений - они не встречаются в природе. В принципе, вы можете вычислить, насколько вы вероятно склонны видеть враждебные образы так, как неагрессивные изображения.

Второе исследователей на центре Бош для AI:

Машинное и глубокое обучение в частности чрезвычайно продвинутых в задачах восприятия в последние годы. Однако они остаются уязвимым в отношении состязательности возмущений входных данных, которые были изготовлены специально для того, чтобы обмануть систему, будучи псевдо-незаметными для человека. В данной работе мы предлагаем дополнить глубокие нейронные сети небольшим "детектором" подсети, который обучается на бинарных задачах классификации и различает подлинные данные от данных, содержащих враждебные возмущения.



admin1 - 13/03/2017



Комментарии к статье
Вы не можете отправить комментарий анонимно, пожалуйста зарегистрируйтесь.


пїЅпїЅпїЅпїЅпїЅпїЅпїЅ пїЅпїЅпїЅпїЅпїЅпїЅпїЅ пїЅпїЅпїЅпїЅпїЅпїЅпїЅпїЅпїЅ - пїЅпїЅпїЅпїЅпїЅпїЅ

 Авторизация
Логин
Пароль
Регистрация на сайте
Забыли свой пароль?

 Сейчас на сайте
Гостей: 9
Пользователей: 0
Всего: 9

 Наш опрос
Какой форум предпочитаете?

Invision Power Board
vBulletin
Phorum
MyBB
PunBB
Simple Machines Forum
phpBB
BBtoNuke



Результаты
Другие опросы

Ответов: 1339
Комментариев: 10

 Рассылка новостей
Подробнее...

 Реклама


Главная | Новости | Полезная информация | Документация | Школа | Файлы | Ссылки | Форум
Copyright © 2002 Internet studio. All Rights Reserved.
Web site engine's code is Copyright © 2002 by PHP-Nuke.
PHP-Nuke is a free test software released under the GNU/GPL.
Страница сгенерирована за 0.0856 с. Выполнено 17 запроса к базе данных за 0.0499 с.

Rambler's Top100 Рейтинг@Mail.ru liveinternet.ru: показано число просмотров и посетителей за 24 часа