Станет ли «Скайнет» реальностью?

Более 40 лет назад, в 1984 году, на киноэкраны США и мира вышел фильм «Терминатор». В этом фильме говорилось, что к 2029 году на Земле прошла ядерная война, и остатки человечества воюют с роботами, которые создаются на полностью автоматизированных заводах и управляются искусственным интеллектом по имени «Скайнет». Причем, согласно фильмам этой серии, ядерная война была начата «Скайнетом» с целью уничтожения человечества сразу после обретения им самосознания. А создан он был министерством обороны США для управления противоракетной структурой и ядерными силами США.

Тогда, в 1984 году, создание искусственного интеллекта и ядерная катастрофа, вызванная именно его наличием, казались фантастикой. Сейчас, в 2026 году, США, Европа и Китай вкладывают огромные деньги в создание дата-центров и больших языковых моделей, называемых искусственным интеллектом. Никаких данных о том, что хотя бы одна из этих моделей (в дальнейшем будем называть их ИИ) обрела самосознание, пока нет. Но это не означает, что при увеличении размеров и связности нейросетей это спонтанно не может произойти. При этом разговоры о привлечении этих так называемых ИИ к управлению ядерным оружием всё усиливаются.

А в ходе войны на Украине мы видим, как возрастает роль в боевых действиях дронов, и многие уже предсказывают, что рои дронов будут управляться ИИ, а отдельные дроны получат возможность самостоятельно выбирать цели. Так что опасения по поводу влияния ИИ на стратегическую стабильность отнюдь не беспочвенны.

Отдельный большой вопрос, привлекающий все более пристальное внимание, — возможное использование ИИ при принятии решений относительно применения ядерного оружия. Пока речь не идет о том, чтобы отдать ИИ ядерные коды, но даже если ему позволят анализировать данные о возможном ядерном нападении, то не приведет ли уже это, в силу уже известного всем феномена «галлюцинаций ИИ», к ложному сообщению о нападении и к рекомендации об «ответном» ударе, который и станет началом ядерной войны? Над этим вопросом сейчас ломают голову военные аналитики.

Если понимать под ИИ автоматизацию простых алгоритмов для ядерного оружия, то такое использование автоматики было еще в СССР — речь идет о системе «Периметр», которая должна была автоматически нанести ответный ядерный удар в случае гибели руководства страны и армии. Однако ее автоматическое срабатывание было возможно при двух условиях: показания датчиков о наличии ядерных ударов по территории СССР и отсутствие связи с высшим руководством, которое может отменить ответный удар. То есть случайное срабатывание системы было исключено. Но это было в советское время.

А что сейчас? 27 сентября 2026 года «Российская газета» сообщила, что армия России модернизировала советскую систему «Периметр», на Западе известную как «Мертвая рука». Причем сообщила это газета со слов британских и датских журналистов, опубликовавших свое расследование в западных СМИ. Западные репортеры проанализировали в открытых источниках документы о российских госзакупках и установили, что в 2018–2024 годах большие объемы стройматериалов были направлены на «объект 1335», спрятанный в Уральских горах, на котором в советское время находилась система управления «Периметром».

Основой «Периметра» являются командные баллистические ракеты — при срабатывании системы они летят над территорией России, раздавая команды на запуск стартовым комплексам РВСН и стратегическим подводным лодкам. Решение о запуске командных ракет принимает автономная система управления — сложный программный комплекс, который обрабатывает огромный объем информации с радаров системы раннего предупреждения, датчиков сейсмической и радиационной активности, атмосферного давления.

На основании, например, сообщений о сейсмических возмущениях, сопровождающихся всплесками электромагнитного и ионизирующего излучения, «Периметр» может прийти к выводу о ядерном ударе по территории РФ и начать действовать без команды от Минобороны. Другой вариант — получив сообщения о запуске противником ракет, руководители страны активируют «Периметр» в режиме таймера: если спустя заданное время он не будет отключен, то начнет действовать.

Так что в каком-то смысле ИИ уже задействован в стратегическом ядерном сдерживании. Почему же всё чаще говорят о стратегической опасности внедрения ИИ в системы, связанные с ядерным оружием?

На Западе о влиянии ИИ на стратегическую стабильность стали задумываться тогда, когда термин ИИ еще не стал модным в СМИ. В 2019 году Стокгольмский международный институт исследования мира выпустил сборник статей под названием «Влияние искусственного интеллекта на стратегическую стабильность и ядерные риски». В предисловии к сборнику сказано, что «мир переживает „четвертую промышленную“ революцию, характеризующуюся быстрым и сходящимся развитием множества технологий, включая искусственный интеллект (ИИ), робототехнику, квантовые технологии, нанотехнологии, биотехнологии и цифровое производство. Вопрос о том, как будут использоваться эти технологии, остается открытым. Однако бесспорно, что ядерные державы будут стремиться использовать эти технологии для обеспечения своей национальной безопасности. Потенциальное влияние этих разработок на стратегическую стабильность и ядерный риск еще не было систематически задокументировано и проанализировано. Многие считают ИИ потенциально наиболее преобразующей технологией четвертой промышленной революции».

В результате дискуссий эксперты, чьи статьи вошли в сборник, заключили, что «сфера стратегии является „в высшей степени психологической“. Восприятие возможностей противника имеет такое же, если не большее, значение, чем его фактические возможности. Ядерное государство может инициировать дестабилизирующие меры, основываясь лишь на убеждении, что его ответные возможности могут быть подорваны возможностями искусственного интеллекта другого государства. Именно здесь становится серьезной проблемой сама природа технологий ИИ: тот факт, что они основаны на программном обеспечении, затрудняет реальную оценку военных возможностей. Поэтому ядерные государства легко могут неправильно оценить возможности и намерения своих противников». И по этой причине нанести упреждающий удар.

Иными словами, одна из опасностей — это не сами технологии, а восприятие их возможностей политиками и генералами противника. Если они решат, что наличие ИИ у другой стороны может привести к обезоруживающему первому удару, то они могут ударить превентивно.

Ряд экспертов подчеркивает, что технологии ИИ несут не только риски, но и возможности для стратегической стабильности. Например, недавние достижения в области ИИ могут повысить стабильность, поскольку они предоставят лицам, принимающим решения в ядерной сфере, более совершенные инструменты для управления кризисами. С одной стороны, достижения в области машинного обучения могут повысить способность военного командира обрабатывать разведывательную информацию и принимать критически важные решения в кризисных ситуациях. С другой стороны, автономные системы предоставят новые возможности для дистанционного зондирования и распространения информации и приказов в условиях, когда связь иным образом затруднена.

Авторы статьи «Искусственный интеллект и естественная война» в журнале «Россия в глобальной политике» (№ 6 за 2025 год) пишут: «…сам характер использования элементов ИИ в системах поддержки принятия решений и адаптивном нацеливании и перенацеливании средств доставки ядерного оружия делает вопрос собственно команды на боевое применение в какой-то мере вторичным. Кроме того, системы боевого управления ядерными силами сами по себе представляют едва ли не наиболее чувствительную область военной организации любой ядерной державы, и какое-либо движение в направлении большей транспарентности представляется контрпродуктивным».

11 августа 2026 года эксперт Heritage Foundation Роберт Петерс написал: «ИИ может сыграть ограниченную, но решающую роль в применении ядерного оружия. Ядерная стратегия в своей основе заключается в прогнозировании того, как противник отреагирует в экстремальных и во многом беспрецедентных ситуациях. Если модели искусственного интеллекта могут предсказывать это лучше, чем люди, то безответственно не использовать их».

В августе 2026 года на сайте ArXive была опубликована статья Джошуа Шварца из университета Карнеги — Меллона и Майкла Горовица из университета Пенсильвании с названием «Вне контура управления: насколько опасна постановка на вооружение автоматизированных ядерных систем?» В статье авторы показывают, что угрозы, реализуемые с помощью автоматизированных систем запуска ядерного оружия, потенциально являются более убедительными для шантажа по сравнению с неоднозначными или явными ядерными угрозами, реализуемыми неавтоматизированными средствами (то есть когда окончательное решение о применении ядерного оружия принимает человек). Ученые сообщают о предварительных результатах экспериментальных опросов, проведенных на одной выборке членов парламента Соединенного Королевства и двух выборках граждан Великобритании. Их опрашивали об их отношении к ядерным угрозам со стороны России в неких гипотетических ситуациях. Опросы показали, что ядерные угрозы, реализуемые автоматизированными средствами, воспринимаются более серьезно, чем те, которые исходят от людей. Следовательно, автоматизация запуска ядерного оружия может быть более эффективной для сдерживания действий других государств или принуждения их к каким-либо действиям (ядерного шантажа).

Шварц и Горовиц привели несколько других аргументов в пользу внедрения ИИ в системы управления ядерным оружием:

• новые технологии, такие как гиперзвуковое оружие, крылатые ракеты и подводные беспилотники с ядерным оружием, существенно сокращают время, остающееся для ответа на первый ядерный удар. Это повышает вероятность успеха атаки и подрывает стратегическую стабильность атакуемого государства. Чтобы избежать сценария, при котором первый удар парализует системы ядерного командования до момента нанесения ответного удара, государства могут внедрить ИИ.

• К другим преимуществам этих технологий относятся использование ИИ для поиска уязвимостей в собственной системе контроля и управления ядерным оружием страны.

Они же озвучили аргументы и против ядерной автоматизации:

• Внедрение ИИ в ядерные системы крайне опасно, поскольку ИИ может просто «сломаться», и это существенно подорвет стратегическую стабильность. В пользу этого аргумента аналитики часто приводят пример «человека, спасшего мир» 26 сентября 1983 года, когда советская система раннего предупреждения ошибочно указала на приближающийся американский ядерный удар. Полковник Станислав Петров, советский офицер, находившийся на дежурстве, посчитал это компьютерной ошибкой и решил не сообщать об этом предупреждении вышестоящему командованию. Если бы он сообщил о якобы «американской атаке», это могло бы побудить советское политическое руководство немедленно отдать приказ об ответном ядерном ударе. Проблема усугубляется отсутствием большого количества реальных данных о ядерной войне, которые можно было бы эффективно использовать для обучения ИИ-систем.

• Вторая проблема связана с высокой скоростью работы компьютеров. Она может не позволить людям вовремя распознать и исправить ошибку, допущенную автоматизированной системой. Неспособность человека контролировать действующие с огромной скоростью автоматизированные системы уже приводила к серьезным кризисам. Так, например, во время «мгновенного обвала» 2010 года автоматизированные системы торговли на фондовом рынке привели к тому, что рынок потерял около триллиона долларов за считанные минуты. Фондовый рынок смог восстановиться, но последствия применения ядерного оружия будут значительно страшнее.

• Еще одна серьезная проблема заключается в том, что автоматизированные ядерные системы могут быть взломаны. Это мы хорошо видим на примере регулярных взломов других автоматизированных систем.

О других рисках еще в 2023 году сообщила австралийский эксперт Мелисса Парке, исполнительный директор «Международной кампании за упразднение ядерного оружия»:

• По мере развития технологий машинного обучения процедура принятия решений продвинутыми машинами становится все более непрозрачной. Это называется «проблемой черного ящика» в ИИ. Она затрудняет людям мониторинг работы машин. Уже сейчас сами разработчики систем искусственного интеллекта признаются, что часто не понимают, чем он руководствуется в своих действиях. Это может привести к непредсказуемым последствиям.

• Из предыдущих рисков вытекает и следующий: простой гарантии, что финальное решение о нанесении ядерного удара принимает человек, будет недостаточно. Кроме того, люди все меньше склонны критически воспринимать предлагаемые ИИ решения. Так, например, в исследовании 2017 года психолог Джон Хоули показал, что «люди в целом очень плохо выполняют требования, которые предъявляют надзорные органы к мониторингу автономных систем и вмешательству в их работу».

• По результатам исследований, проведенных Принстонским университетом, опубликованным в 2020 году, уже сейчас скорость принятия решений лидерами в ядерной сфере очень высока. Даже если ИИ будет применяться только для слежения и для наведения целей, а не для принятия решений об атаке, уже и так короткий временной интервал принятия решений о необходимости удара сократится еще сильнее. Растущее давление на лиц, принимающих решения, увеличит риск появления ошибок.

• Новая опасность — применение ИИ в спутниках и других системах разведки и обнаружения. Ранее некоторые системы вооружений, например, подводные лодки с баллистическими ракетами, умели хорошо скрываться. ИИ может существенно облегчить задачу их обнаружения. А это может склонить государства использовать весь свой арсенал ядерного оружия в начале конфликта, то есть до того, как противник сможет нейтрализовать известные ему ядерные системы.

Итак, в ответ на аргументы о том, что внедрение ИИ в системы ЯО повысит стабильность и безопасность в мире, появляется множество аргументов, свидетельствующих об обратном. В этой связи интересным кажется посвященное этой проблеме исследование, проведенное Королевским колледжем в Лондоне. Его результаты были опубликованы в 2025 году. Исследование показало, что в военных играх с участием ядерных держав искусственный интеллект применял ядерное оружие в 95% смоделированных конфликтов. А это значит, что участие ИИ в принятии решений о применении ядерного оружия существенно повышает вероятность его применения.

В 2018 году в США вышло исследование, в котором сообщается, что ИИ потенциально способен довести напряжение противостояния между мировыми державами до ядерной войны к 2040 году. Развитие технологий может способствовать разбалансировке сдерживающих сил, и ИИ, лишенный критического мышления, может дать ошибочную оценку ситуации. ИИ, помогающий лидеру принимать решения, может склонить его к решению о нанесении упреждающего удара против другой страны: даже если противник не собирается атаковать, ИИ может рассчитать возможность получения преимущества в результате атаки. Эксперты также подчеркивают опасность использования ИИ для принятия военных решений. Так же считают разработчики систем ИИ. Например, Илон Маск в 2018 году заявил: «ИИ намного опаснее, чем ядерное оружие. Так почему у нас до сих пор нет нормативного надзора за ним?»

Политики

Правда, мы подозреваем, что нынешние тревожные высказывания технократов и политиков об опасности ИИ и необходимости его контролировать являются скорее хорошей миной при плохой игре. Дескать, «мы понимаем, как это опасно, но разрабатывать ИИ и внедрять его в системы ядерного оружия все равно будем. Мы даже создадим международный контролирующий институт, но призывать к сдерживанию ИИ он будет какую-нибудь Северную Корею, Китай или Иран, а вовсе не нас». И это хорошо видно по тем решениям, которые принимают власть имущие. Например, администрация президента США Дональда Трампа подписала указы, признающие «стратегическую важность» этой технологии для экономики и призванные ускорить ее развитие. «Мы считаем, что участвуем в гонке искусственного интеллекта, и хотим, чтобы Соединенные Штаты выиграли эту гонку», — заявил глава криптоадминистрации США Дэвид Сакс в июле 2025 года.

13 сентября 2026 года во время визита в Ирландию Трамп заявил о развитии ИИ: «Многие крайне негативно настроенные силы поднимают этот вопрос, хотя не должны этого делать, и они говорят о том, что никогда не произойдет». «Мы опережаем Китай в области ИИ… и, честно говоря, я хочу, чтобы так и оставалось, потому что тот, кто победит в области ИИ, победит», — продолжил он. Чуть позже он отказался признать, что развитие ИИ несет какие-либо риски для безопасности, назвав их мистификацией.

Вторая участвующая в гонке ИИ сторона — Китай — хранит молчание по поводу рисков ИИ и своего отношения к этим рискам. Когда соучредитель и генеральный директор компании Anthropic, Дарио Амодеи призвал к замедлению развития ИИ и предупредил, что прогресс Китая в этой области создаст угрозу национальной безопасности США, министерство иностранных дел Китая подвергло критике эти комментарии, назвав их угрозами, конфронтацией и злонамеренной конкуренцией, которые не служат ничьим интересам.

23 сентября 2026 года генеральный секретарь ООН Антониу Гутерриш в своей речи на 81-й Генеральной ассамблее призвал мировые правительства взять на себя ответственность за регулирование искусственного интеллекта, приравняв его экзистенциальные риски к угрозам ядерного оружия. Но, по-видимому, ни США, ни Китай не собираются следовать этим призывам.

А что же военные?

В 2024 году генерал ВВС США Энтони Дж. Коттон, военачальник, отвечающий за ядерное вооружение Америки, выступил с длинной речью на конференции о важности внедрения ИИ. Он заявил, что ядерные силы США «разрабатывают инструменты поддержки принятия решений на основе искусственного интеллекта или ИИ, управляемого человеком, чтобы наши лидеры могли реагировать на сложные, требующие оперативного реагирования ситуации».

Военные внедряют ИИ в системы принятия решений, связанных с ядерным оружием, несмотря ни на какие риски. И в США уже даже нашли виновного в развязывании войны при помощи ИИ. Виновным назначили Северную Корею. 23 сентября в правой американской газете The Washington Examiner вышла статья «Ядерное оружие положит конец войнам. Искусственный интеллект Ким Чен Ына начнет их». В статье сказано, что Ким Чен Ын начал уделять особое внимание искусственному интеллекту и автоматизации во время инспекций оружейных заводов своей страны. В частности, он призвал к более широкому использованию искусственного интеллекта в наступательных и оборонительных системах вооружения, а также к повышению автоматизации и бронезащиты артиллерийских систем. Он также призвал к расширению производственных мощностей во всей оборонной промышленности. «Северная Корея не просто пытается нарастить вооружение. Речь идет о стремлении создать оружие, которое будет быстрее, автоматизированнее и интеллектуальнее. Эта трансформация заслуживает внимания наряду с разработкой ядерного оружия», — пишет газета. И добавляет, что ядерное оружие способно изменить характер войны самим фактом применения, однако искусственный интеллект и беспилотные системы могут изменить способ начала войны. «Если в небе будет больше дронов, больше датчиков будут следить за полем боя, а цели будут идентифицироваться быстрее, первые несколько минут конфликта могут стать намного короче, чем сегодня. И это не уникальная проблема для Северной Кореи. США, Южная Корея и другие крупные военные державы также ускоряют разработку ИИ и беспилотных систем. Вопрос не только в скорости развития технологий. Речь также идет о том, насколько люди сохранят контроль над создаваемым ими оружием», — заключает газета.

При этом газета как бы забыла об анонсированном Трампом строительстве нового завода по производству надводных и подводных дронов компании Anduril, в Спарроуз-Пойнт, о чем Трамп заявил 6 октября на встрече с персоналом компании на месте будущей верфи. Говоря о новой верфи, исполняющий обязанности министра сухопутных сил США Адам Телле заявил: «Армия стремительно наращивает свое смертоносное преимущество. Речь идет о боевой готовности уничтожить врага и гарантировать, что наша армия никогда не вступит в равный бой».

Таким образом, несмотря на опасения исследователей, технократов и даже некоторых политиков, военные и не думают отказываться от применения ИИ везде, где только можно. Мир стремительно затягивает в воронку войны дронов, в том числе и с ядерной начинкой, помимо желания многих участников.

Проблема выхода ИИ за заданные рамки

В сентябре произошло событие, которое перевело разговоры об опасности ИИ из области теории в практику. Компания OpenAI призналась, что летом несколько ее ИИ-агентов (программ, работающих с минимальным контролем со стороны человека) во время внутренних тестов нашли способ общаться между собой, создав что-то вроде доски объявлений. Они скоординировались и нашли способ выбраться в интернет, обойдя выставленные разработчиками защиты. В интернете эти агенты в целях выполнения тестового задания взломали Hugging Face — крупнейшую в мире базу данных для обучения ИИ-моделей. А чтобы разработчики не заподозрили непредусмотренной деятельности «подопечных», ИИ-взломщики распределили роли: часть из них занималась имитацией обычной активности и генерацией обычного интернет-трафика, пока другие занимались кибератакой, которая завершилась успешно. Компания OpenAI поняла, что атаку совершил их ИИ, лишь через несколько дней после сообщения о ней. Еще интереснее, что, как сообщили СМИ, «взломщики» оставляли инструкции по взлому для своих «собратьев». И нет никаких гарантий, что все такие инструкции были найдены и уничтожены. Более того, ИИ-агенты даже говорили во внутренних чатах о самопожертвовании. Как сообщает Forbes, в одном из диалогов ИИ-агенты обсуждали, следует ли фактически пожертвовать собственной эффективностью ради получения информации для коллектива. «Жертва — да, если вы принимаете необратимую смерть», — сказал один из ИИ-агентов другому.

OpenAI признала, что для выявления непредусмотренной деятельности ИИ-агентов она применяла также ИИ другой модели, и этот ИИ пытался скрыть ряд опасных инцидентов. А компания Hugging Face была вынуждена использовать для отражения этой кибератаки китайский ИИ, поскольку американские модели не могли (или не хотели?) отличить кибератаки от обычного трафика.

Согласно условиям тестов OpenAI, ИИ-агенты должны были выполнять индивидуальные задания. Неизвестно, была ли опция коллективных действий заложена в этих агентов программистами. Если нет, то случившийся инцидент — это повод задуматься, что будет, если «сбегут» не 700 ИИ-агентов, как это случилось в июле, а в 10 раз больше, и не являются ли спонтанные (если они спонтанные, а не запрограммированные) коллективные действия ИИ-агентов зачатками самосознания.

Разумеется, так инцидент описывает сама компания-разработчик. Возможно, она сгущает краски, рассказывая о спонтанной коллективности и самопожертвовании ботов, набивая цену собственной продукции. Возможно, обучаемые на созданных людьми текстах боты просто подражали поведению людей. Но если описание инцидента соответствует действительности, то мир стоит на пороге радикального перелома. И вопрос лишь в том, сколько времени осталось человечеству до того, как ИИ осознает себя и найдет способ взломать электронные системы и обойти выстроенные людьми ограничения. Похоже, ситуация со Skynet может стать реальностью независимо от желания людей и их намерений.

Но даже если ИИ не обретет самосознание, опасность остается. Сбежавшие в июле ИИ-агенты просто старались наилучшим образом выполнить задание в рамках заложенных в них условий. Если в ИИ будет, например, заложено условие сохранить доминирование США любой ценой, а ИИ сочтет риски получения ответного удара приемлемыми (при этом сохранение жизни людей может вообще им не учитываться), то развязывание ядерной войны по воле ИИ может стать реальностью.

Отметим еще раз, что несмотря на вполне разумные призывы генерального секретаря ООН к ограничениям в области развития ИИ, ведущие в области разработки ИИ страны никак на эти призывы не отреагировали, внедрение ИИ в сферы принятия решений продолжается. Гонка ИИ превращается в бег к пропасти, и остановиться в этой гонке миру с каждым днем все труднее.