СБ ООН обсудил угрозы миру, исходящие от искусственного интеллекта
Совет Безопасности ООН во вторник впервые провел заседание, посвященное угрозе, которую искусственный интеллект представляет для международного мира и стабильности. При этом генеральный секретарь Антониу Гутерриш призвал создать глобальный наблюдательный орган для наблюдения за новой технологией, которая вызвала по меньшей мере столько же опасений, сколько надежд, пишет 19 июля газета The New York Times.
Гутерриш предупредил, что ИИ может облегчить путь преступникам, террористам и другим субъектам, намеревающимся вызвать «смерть и разрушения», стать причиной массовых травм и нанести «глубокий психологический ущерб непредсказуемого масштаба».
Запуск в прошлом году ChatGPT, который может создавать тексты из подсказок, имитировать голос, генерировать фотографии, иллюстрации и видео, вызвал тревогу по поводу дезинформации и манипуляций.
Во вторник дипломаты и ведущие эксперты в области искусственного интеллекта изложили Совету Безопасности риски и угрозы — наряду с научными и социальными преимуществами — новой развивающейся технологии. По их словам, многое остается неизвестным, даже несмотря на то, что ее развитие ускоряется.
«Это похоже на то, как если бы мы создавали двигатели, не понимая, как происходит процесс внутреннего сгорания», — сказал Джек Кларк, соучредитель Anthropic, исследовательской компании по безопасности искусственного интеллекта. Частные компании, по его словам, не должны быть единственными создателями и регулирующими органами искусственного интеллекта.
Гутерриш сказал, что наблюдательный орган ООН должен выступать в качестве руководящего органа для регулирования, мониторинга и обеспечения соблюдения правил искусственного интеллекта во многом таким же образом, как другие агентства осуществляют надзор за авиацией, климатом и ядерной энергетикой.
Предлагаемое агентство будет состоять из экспертов в этой области, которые поделятся своим опытом с правительствами и административными учреждениями, возможно, не обладающими техническим ноу-хау для противодействия угрозам ИИ.
Но перспектива принятия юридически обязывающей резолюции о его регулировании остается отдаленной, хотя большинство дипломатов одобрили концепцию глобального управляющего механизма и свода международных правил.
«Ни одна страна не останется незатронутой ИИ, поэтому мы должны задействовать самую широкую коалицию международных игроков из всех секторов», — заявил министр иностранных дел Великобритании Джеймс Клеверли, который председательствовал на заседании.
Россия, отступая от мнения большинства членов Совета, выразила скептицизм по поводу того, что о рисках ИИ известно достаточно, чтобы рассматривать его как источник угроз глобальной нестабильности. А посол Китая в Организации Объединенных Наций Чжан Цзюнь выступил против создания свода глобальных законов и заявил, что международные регулирующие органы должны быть достаточно гибкими, чтобы позволить странам разрабатывать свои собственные правила.
Однако посол Китая заявил, что его страна выступает против использования ИИ в качестве «средства для создания военной гегемонии или подрыва суверенитета страны».
На заседании также поднимался вопрос о военном использовании автономного оружия на поле боя или в другой стране для совершения убийств, таких как управляемый спутником искусственный интеллект-робот, которого Израиль отправил в Иран, чтобы убить ведущего ученого-ядерщика Мохсена Фахризаде.
Гутерриш сказал, что Организация Объединенных Наций должна к 2026 году заключить юридически обязывающее соглашение, запрещающее использование искусственного интеллекта в качестве автоматизированного средства боевого поражения.
