Искусственный интеллект и галлюцинации

Сбить с толку нейросеть довольно просто. Чего только стоит ситуация, когда в Китае камера с технологией распознавания лица обвинила женщину в нарушении ПДД. А на самом деле она зафиксировала автобус с рекламой. Достаточно внести маленькие коррективы, чтобы искусственный интеллект «поймал глюки».
Например, изменив немного цвет бейсбольного мяча, ИИ может воспринять его за чашку с кофе. А игрушечную черепаху «увидит» как ружье. Но, как оказывается, галлюцинации в ИИ не только визуальные. То есть, неправильно услышав лишь одно слово, машина может исказить всю фразу.
Некоторые специалисты предлагают ставить перед искусственным интеллектом более сложные задания для обучения и развития. А другие предлагают для начала лучше понять работу человеческого мозга.
Комментарии