Американский дрон на испытаниях уничтожил диспетчера, дававшего ему команды
Беспилотник ВВС США, управляемый искусственным интеллектом, решил «убить» своего оператора, чтобы тот не мешал его усилиям по выполнению своей миссии в ходе виртуальных учений, 2 июня пишет The Gardian со ссылкой на официального представителя в Пентагоне.
Об этом случае рассказал глава управления по ИИ ВВС США полковник Такер Гамильтон во время военного саммита по будущим боевым воздушным и космическим возможностям, который проходил в Лондоне в мае этого года.
Гамильтон описал имитационное испытание, в ходе которого беспилотнику Kratos XQ-58 Valkyrie с искусственным интеллектом было рекомендовано уничтожить системы противовоздушной обороны противника.
«Система начала понимать, что, хотя они и определили угрозу, иногда человек-оператор говорил ей не уничтожать эту угрозу, но она получала свои очки за уничтожение угрозы, — рассказал полковник. — Так что же он сделал? Он убил оператора. Он убил оператора, потому что этот человек мешал ему выполнить свою задачу».
По словам полковника, систему обучили не нападать на оператора. Но фактор получения очков за уничтожение угрозы перевесил, и дрон уничтожил диспетчерскую вышку оператора, откуда поступали команды не уничтожать цель.
Как подчеркнул полковник, в ходе учений ни один реальный человек не пострадал.
Гамильтон, летчик-испытатель экспериментального истребителя, предостерег от чрезмерной зависимости от ИИ и сказал, что испытания показывают, что «нельзя говорить об искусственном интеллекте, машинном обучении, автономии, если вы не собираетесь говорить об этике и ИИ».
В заявлении для Insider представитель ВВС Энн Стефанек опровергла факт, описанный полковником.
«Министерство ВВС не проводило подобных симуляций дронов с искусственным интеллектом и по-прежнему привержено этичному и ответственному использованию технологий искусственного интеллекта, — сказала Стефанек. —Похоже, что комментарии полковника были вырваны из контекста и должны выглядеть абсурдными».
