• Вы находитесь тут:
  • Bad Android
  • Блоги
  • Искусственный интеллект может проникать в мозг других компьютеров

Искусственный интеллект может проникать в мозг других компьютеров

Каждый, кто использует Siri или Alexa, видимо, знает, что цифровые помощники не всегда понимают людей. Им не хватает того, что психологи называют «теорией ума», — умение распознавать эмоции, мысли и намерения людей.

Теперь компьютерные ученые создали программу, которая может проникать в «ум» других компьютеров и предсказывать их будущие действия. Исследования уже называют первым шагом к свободному взаимодействию между людьми и машинами.

«Теория разума — это, очевидно, ключевая способность, позволяющая ориентироваться в мире, который наполняют другие умы», — говорит психолог из Калифорнийского университета (Беркли) Элисон Гопник, которая не участвовала в исследовании.

Примерно в 4-летнем возрасте дети начинают понимать, что у других людей могут быть ложные представления об окружающей действительности — и эти представления можно использовать для того, чтобы спрогнозировать их поведение. Именно в этом возрасте дети начинают блефовать.

Некоторые современные компьютерные программы могут распознавать лица людей как «веселые» или «злые» (это умение ассоциируют с «теорией разума»), но у них мало понимания сложных человеческих эмоций, которые мотивируют наши поступки.

Новый проект стартовал именно как попытка побудить людей понимать компьютерные программы. Дело в том, что многие алгоритмы, которые использует искусственный интеллект, не полностью написаны программистами. Они основаны на технологии «машинного обучения» и постоянно вмещают в себя новый опыт, который модифицирует программу.

Как следствие, решения, которые генерирует компьютер, часто являются «черными ящиками»: человек не в состоянии полностью их понять, ведь алгоритм постепенно становится слишком сложным для человеческого понимания. Поэтому Нил Рабинович, исследователь из лондонской корпорации DeepMind, с коллегами создал простой прототип «теории разума» для искусственного интеллекта, который он назвал ToMnet.

Задачей ToMnet было следить за другими искусственными інтелектами, чтобы увидеть, может ли она понять, как они «думают», и спрогнозировать их будущие шаги.

ToMnet состоит из трех искусственных нейросетей, каждая из которых содержит вычислительные элементы и связи между ними, что отдаленно напоминает человеческий мозг.

Первая сеть анализирует действия других искусственных интеллектов и пытается выделить тенденции на основе их предыдущих шагов.

Вторая формирует понимание настоящих «мыслей» искусственных интеллектов, а третья на основе информации от первых двух пытается спрогнозировать, как машина поведет себя в будущем.

ToMnet испытали на простом тесте, который содержал компьютерного персонажа, что двигался в виртуальной комнате и собирал цветные фигуры, за которые получал баллы. Задачей персонажа было получить как можно больше баллов.

Разработчики создали три состояния для персонажа.

Первое состояние — это «слепой» персонаж, который не видит окружающей комнаты.

Второй — персонаж «с амнезией», который не помнит своих предыдущих шагов.

В третьем варианте персонаж не имел этих недостатков. Первый персонаж вслепую двигался вдоль стен. Второй непреодолимо перемещался к ближайшей фигуре. Только третий мог сформулировать оптимальную стратегию набора баллов.

После короткого периода обучения ToMnet не только смог идентифицировать, какой персонаж перед ним, а также смог правильно предсказать его будущие действия — сообщили исследователи этого месяца на Международной конференции по машинному обучению в Стокгольме.

Но самое интересное то, что финальный тест показал — ToMnet способен даже понимать, когда персонаж имеет ошибочные убеждения, что является ключевой стадией в развитии «теории ума». В этом тесте одного персонажа запрограммировали на близорукость. Когда во время игры компьютер изменил виртуальную среду за пределами его видения, ToMnet правильно предсказал, что он и в дальнейшем будет двигаться своим привычным маршрутом и, по сравнению с другими персонажами, будет иметь проблемы с адаптацией.

Ґопнік утверждает, что это исследование (вместе с еще одним исследованием, которое презентовали на той же конференции, суть которого — предсказание поведения искусственного интеллекта на основе того, что он о себе знает) является примером невероятной способности нейросетей к обучению. Впрочем, даже эти достижения еще не ставят искусственный интеллект даже на уровне маленьких детей, которые, вероятнее всего, пройдут такой тест с почти идеальной точностью.

Джош Тененбаум, психолог и компьютерный ученый из Массачусетского технологического института в Кембридже, также работал над цифровым моделирования «теории ума». По его словам, ToMnet на основе нейросетей формирует свои «убеждения» эффективнее, чем его собственная система, которая основывается на абстрактной форме вероятностных суждений.

Но ее алгоритмы теснее привязаны к условиям, в которых проходит тренировка, что делает их менее способными прогнозировать поведение, когда эти условия меняются. Сочетание этих двух подходов, по его словам, может толкнуть эти программы в новых интересных направлениях".

Ґопнік утверждает, что развитие компьютеров с социальными компетенциями не только усовершенствует взаимодействие между ними и людьми, но и, пожалуй, научит их обманывать. Если компьютер научится определять и понимать ложные убеждения, он будет знать, как их можно будет искусственно вызывать у людей. Поэтому уже в будущем можно будет ожидать искусственных игроков в покер, которые будут знать, как блефовать.

Материал подготовлен при поддержке ресурса hi-tech.news, который можно найти здесь. На сайте вы найдете интересные материалы по IT тематике.

0

Комментарии


Чтобы оставить комментарий, пожалуйста, авторизируйтесь!
  • Вы находитесь тут:
  • Bad Android
  • Блоги
  • Искусственный интеллект может проникать в мозг других компьютеров
  • Вы находитесь тут:
  • Bad Android
  • Блоги
  • Искусственный интеллект может проникать в мозг других компьютеров