Искусственный интеллект

Какая рационализация заставит сильный ИИ убить человеческую расу?

Любит | Нелюбов | Ответы | Вид | 3066


Блейк Сефтнер Безумный ученый   
@ | Обновлено Right Now


[1412.6572] Объяснение и использование состязательных примеров

Для нас с вами это две картины панды. В то время как нейронная сеть согласуется с нами на левой картинке, абсолютно точно, что на правой картинке изображен гиббон. И мы не можем объяснить, почему.

Поскольку мы не понимаем, почему он настаивает на том, что на правой картинке изображен гиббон, мы также не совсем понимаем, почему нейронная сеть считает, что на левой картинке изображена панда.

Когда мы смотрим на нейронную сеть, мы можем идентифицировать отдельные нейроны, которые имеют тенденцию активироваться, когда присутствуют определенные особенности, такие как два наклонных черных овала в середине большого белого круга. Так что заманчиво утверждать, что он думает, что на рисунке изображена панда, потому что эти функции присутствуют, но те же функции присутствуют и на другой картинке, так что это неправильное описание того, как работает нейронная сеть, и мы не Я действительно не понимаю, как это работает.

Есть некоторые вещи, которые мы понимаем. Изображение справа называется состязательным примером, и оно создавалось путем возмущения изображения слева шумовым термином, показанным в середине. И мы понимаем, как мы можем найти такие условия шума. Мы также добились прогресса в понимании того, почему нейронные сети восприимчивы к таким изображениям, что во многом связано с проклятием размерности и границей решения между изображениями различных объектов. Но, к сожалению, мы не понимаем этого достаточно хорошо, чтобы это исправить.

Вы можете подумать, что мы могли бы просто исправить это, предоставив дополнительные учебные данные, включая картинку справа. К сожалению, это не работает. Хотя это позволяет нам защищаться от конкретных примеров, всегда можно создавать новые примеры. И все сетевые архитектуры, которые мы исследовали до сих пор, подвержены сомнительным примерам.

| |



Онлайн-курс
«Всё о блокчейне и криптовалютах»
Один из самых трендовых курсов в сфере Цифровой экономики.