Искусственный интеллект

Почему мы вдруг заинтересовались искусственным интеллектом?

Любит | Нелюбов | Ответы | Вид | 1520


Джон П Бенфилд специалист по инновациям   
@ | Обновлено Right Now


Вот картинка кота не так ли? Начальная модель Google считает, что это гуакамоле. Как изображение выглядит как кошка, изображение изменяется в цифровом виде, что запутало модель.

Незначительное вращение изображения привело к тому, что модель правильно классифицировала изображение как кошку (и как животное).

Изображение выше - это то, что называется состязательным изображением, пытаясь обмануть вашу модель, заставляя думать, что изображение - это то, что вы хотите, чтобы оно было, а не то, что на самом деле представляет собой изображение.

Я привел этот пример, чтобы проиллюстрировать проблему с текущей тенденцией ИИ. У нас есть много технологий, которые позволяют нам использовать AI / ML (а не только глубокое обучение) в качестве черного ящика. Настоящая опасность заключается в применении, особенно в сфере здравоохранения и обороны. Например, как бы вы убедили, что ваша модель предсказания рака действительно работает? Откуда вы знаете, что ваша модель не подвержена шуму? Откуда вы знаете, что ваша модель на самом деле узнала, что она должна изучать? Как вы на самом деле читаете интерпретируемость здесь? Если вы не можете интерпретировать то, что узнала модель, вы не можете ее продать.


Источник изображений: ИИ Google считает, что эта черепаха выглядит как пистолет, что является проблемой

Большая часть обсуждения в комментариях в основном относится к состязательному примеру, а не к тому, на что я собирался указать - интерпретируемости. Вы можете взять простую задачу и использовать комплексное решение, включающее недели обучения. Это может дать вам довольно хорошие результаты по тренировочным данным на этапе создания прототипа. Но вопросы, которые нужно задать:

  1. Как бы вы теперь обеспечивали согласованность результатов в приложении, не создавая никаких уязвимостей или рисков?
  2. Вы действительно нуждались в решении AI / ML?

| |



Онлайн-курс
«Машинное обучение для людей»
Один из самых трендовых курсов в сфере Цифровой экономики.