Ученые предупредили об угрозе потери контроля над искусственным интеллектом

Возможность потери контроля над искусственным интеллектом (ИИ) в результате его дальнейшего развития изучила группа ученых. Об этом говорится в исследовании, опубликованном в журнале Artificial Intelligence Research. Об этом 22 февраля сообщает интернет-издание Diario Libre.

Согласно сообщению, международная группа исследователей предупредила о потенциальных рисках создания слишком мощного и автономного программного обеспечения на базе ИИ. Используя серию теоретических расчетов, ученые исследовали возможность создания алгоритма способного «удержать ИИ в узде» и исключить риск потери контроля над ним. Они пришили к выводу, что создание подобного алгоритма невозможно.

«Если рассмотреть проблему, руководствуясь основными правилами теоретических вычислений, то окажется, что алгоритм, созданный для предотвращения разрушительных действий ИИ, может непреднамеренно остановить собственные операции. И у нас бы не было возможности об этом узнать. По сути, это делает алгоритм сдерживания непригодным для использования» — объяснил один из авторов исследования Ияд Рахван.

«Сверхумная машина, управляющая миром, звучит как научная фантастика. Но уже есть машины, которые выполняют определенные важные задачи самостоятельно, без полного понимания программистами того, как они этому научились […], ситуация, которая может в какой-то момент стать неконтролируемой и опасной для человечества» — заявил член исследовательской группы Мануэль Себриан.

В заключении, исследователи также отмечают, что человечество может даже не узнать, когда появятся сверхразумные машины, «потому что решение о том, обладает ли устройство интеллектом, превосходящим человеческий, находится в той же области, что и проблема сдерживания».