OpenAI и Google показали, что видит нейросеть

OpenAI и Google представили совместный проект Activation Atlases.

google

Его главная цель — понять внутренние процессы принятия решений искусственным интеллектом, а также выявить ошибки или недостатки. Благодаря этому проекту, теперь исследователи смогут анализировать работу отдельных алгоритмов, понимая, каким образом они объединяют абстрактные элементы для идентификации конкретных.

Activation Atlases показывает, что видит нейросеть

Один из авторов проекта сравнил принцип работы с микроскопом. Activation Atlases использует нейронную сеть GoogLeNet или InceptionV1, которая научена на изображениях из базы данных ImageNet. Она обрабатывает данные через десять слоев, состоящих из сотен нейронов. В свою очередь, каждый нейрон активируется в разной степени на разных типах изображений.

The New Google Assistant Button: Mobile World Congress 2019

0

Комментарии


Чтобы оставить комментарий, пожалуйста, авторизируйтесь!