Эксперт рассказал про ошибки нейросетей

Нейросети часто ошибаются и полное доверие к ним может быть опасно, по мнению руководителя группы исследований и разработки технологий машинного обучения в «Лаборатории Касперского» Владислава Тушканова, об этом 29 февраля сообщает РИА Новости.

«Сейчас пользователь может столкнуться с ситуацией, когда устройство говорит на понятном языке, красивыми словами, уверенным тоном, но сама предоставляемая информация искажена или неверна. Мы, как человеческий вид, к такому не были готовы. Если что-то хорошо, красиво говорит, особенно, если это компьютер, значит, это нечто разумное, и мы склонны ему верить, а оно может ошибаться, и нередко», — сообщил Тушканов.

Проблема, описанная экспертом, называется overreliance (чрезмерное доверие или зависимость). При этом люди начинают излишне полагаться на помощь нейросетей в целях оптимизации процессов и облегчения какого-то рутинного интеллектуального труда, при этом совершаются ошибки.

«Это вероятностные алгоритмы, они имитируют человеческую речь, текст, написанный человеком, но это не всегда верно фактологически, а система все равно уверенно подает нам это как истину — такие ситуации называются галлюцинациями. И чем более точными и полезными становятся нейросети, тем больше мы будем их использовать, но всегда надо помнить о том, что они могут и будут ошибаться, слишком им доверять — это главный риск», — говорит Тушканов.

Эксперт сомневается, что когда-либо люди смогут на 100% доверять нейросетям.