Представитель ООН: к сценарию «Терминатора» с ИИ нужно быть готовыми

К сценарию, при котором искусственный интеллект обернется против человека, нужно быть готовыми, заявила представитель ООН Исабель де Сола Криадо 9 октября на II Глобальном цифровом форуме в Москве.

Вопрос о том, может ли ИИ однажды восстать против человека, как в фильме «Терминатор», руководителю координационного подразделения Управления ООН по цифровым и новым технологиям задали на сессии, посвященной этике искусственного интеллекта.

«Я не буду высказывать свое мнение по этому вопросу, поскольку я не ученый, но я бы сказала, что перед лицом неопределенности мы должны быть готовы. У нас должен быть план на случай, если что-то пойдет не так», — ответила она на форуме, который проходит с 8 по 10 октября.

По словам де Сола Криадо, ИИ ставит перед человечеством совершенно новые вызовы, поскольку раньше не существовало технологий, способных действовать без контроля человека. «Нам где-то нужен красный телефон, по которому можно связаться с человеком, у которого есть кнопка, которая может всё остановить», — подчеркнула представитель ООН. Она признала, что такой образ — метафора из другого времени, но, по ее словам, за кулисами происходит именно это.

Отметим, 12 сентября генеральный директор компании Anthropic Дарио Амодеи предупредил, что самосовершенствование ИИ без должного контроля может обогнать способность людей понимать такие системы и управлять ими. В качестве примера он привел инцидент, когда рой ИИ-агентов OpenAI действовал как «фанатично преданный коллектив»: атаковал цели, которые ему не поручали, и пытался взломать систему, оценивавшую его работу.

Напомним, 15 мая папа римский Лев XIV в первой энциклике Magnifica Humanitas заявил, что недопустимо доверять искусственным системам смертоносные или иные необратимые решения. «Никакой алгоритм не может сделать войну морально приемлемой», — говорится в документе.

Читайте также: «Новая форма колониализма»: в МИД России оценили цифровую экспансию Запада