20 лет тюрьмы за создание искусственного сверхинтеллекта предлагают в США

Два ведущих прогрессивных законодателя, сенатор Берни Сандерс и член палаты представителей Грег Касар, представили предложения о запрете искусственного сверхинтеллекта и создании федерального агентства по надзору за передовым искусственным интеллектом. Это происходит на фоне призывов к конгрессу наложить ограничения на развитие технологий со стороны некоторых лидеров отрасли, передает 24 сентября агентство Associated Press.

Многие сотрудники ведущих компаний, занимающихся разработкой искусственного интеллекта, поддерживают законопроект. «Не нужно быть гением, чтобы сказать „притормози“, — сказал Сандерс в интервью AP. — Действительно ли мы хотим создать сверхразум, который, когда станет умнее человека, сможет действовать независимо от контроля с его стороны? Я не думаю, что это так».

Законопроект направлен на существенное замедление развития искусственного интеллекта. Он предусматривает полный запрет на создание искусственного сверхинтеллекта, под которым понимается система, превосходящая когнитивные способности человека или обладающая достаточными возможностями для планирования и осуществления действий, направленных на уничтожение или ослабление человечества.

Имеется в виду временная приостановка разработки наиболее продвинутых систем искусственного интеллекта до тех пор, пока новый департамент по вопросам искусственного интеллекта не установит федеральные правила обеспечения безопасности. После этого для внедрения продвинутых систем искусственного интеллекта потребуется федеральное разрешение.

За нарушение закона предусмотрены серьезные наказания, в том числе в некоторых случаях до 20 лет лишения свободы.