Отчет Anthropic о ракетчиках-хуситах — это лишь вершина айсберга

Опубликованный Anthropic отчет об инцидентах безопасности с использованием ИИ для разработок оружия и систем слежки — лишь видимая вершина айсберга в отрасли, реальный масштаб потенциально деструктивного использования больших языковых моделей оценить невозможно, 13 сентября отмечает IT-редакция ИА Красная Весна.

В сентябре 2026 года компания Anthropic опубликовала отчет о нецелевых случаях использования своего главного продукта — ИИ Claude — для разработки оружия, включая биологическое, систем слежки и т. п. Среди главных врагов обозначены Россия (с попытками разработать рои FPV-дронов), Китай (со всеобъемлющей слежкой), Иран и хуситы (с ракетами и автопилотами).

Читайте также: Anthropic раскрыла использование Claude для шпионажа со стороны Ирана

Напомним, в компании отметили, что хуситам за счет использования разных сеансов работы с Claude Code удалось избежать автоматического определения чувствительных тем со стороны Anthropic. По собственному признанию, разработки компании помогли разработкам ракет: ИИ помогал создавать системы наведения и стабилизации, прикручивал открытый автопилот, собирал прошивку и гонял симуляции.

С одной стороны, компания публично говорит о том, что она находится на страже американских национальных интересов, и все как будто бы находится под контролем. С другой стороны, в документе перечислены только те случаи, которые удалось идентифицировать как злонамеренные, и тут возникает вопрос — а сколько вообще таких неучтенных случаев есть?

Помимо централизованного учета в компаниях Anthropic, OpenAI и т. п., существуют открытые модели (в основном, китайские разработки), которые можно использовать по своему усмотрению на собственном железе. В частности, для них есть специальные модификации, позволяющие убрать вложенные разработчиком ограничения, и тогда нет никакого смысла рассчитывать на то, что в модель можно вложить некую неотъемлемую безопасность.

Тревожным сигналом стало то, что такие «раскрепощенные» (в англоязычном сообществе используется термин abliterated — гибрид двух слов: ablate (удалять часть ткани/компонента) + obliterate (уничтожать)) модели начали предоставляться в полуоткрытый доступ по подписке. В «раскрепомощенном» виде уже в виде открытых весов предоставлены серьезные разработки вроде моделей Kimi K3, GLM-5.3, Deepseek, а некоторые из них, например, начал предоставлять всем желающим стартап Abliteration.ai за небольшую плату.

«Мы раскрепостили и разместили эту модель, чтобы она выполняла задачи в сфере наступательных киберопераций, ред-тиминга и тестирования агентов — то, от чего отказываются другие модели», — прямо говорится в объявлении компании о предоставлении соответствующего доступа к GLM-5.3, вполне сравнимой с передовыми американскими разработками от Anthropic и OpenAI.

Никто и никогда не даст подобного отчета по использованию систем для разработок оружия, включая химическое и биологическое, любыми пользователями. Ранее для этого требовалось дорогостоящее оборудование, но с развитием отрасли возникло предложение и для сценариев, ранее немыслимых: целенаправленное предоставление больших языковых моделей в атакующих целях. И речь тут не только о кибервойнах, но уже и о классической войне.

Таким образом, попытки больших компаний, лидеров отрасли заявить о том, что ситуация находится под контролем, хотя единичные случаи нецелевого использования ИИ и допускаются, являются большой натяжкой на реальность, которая уже сейчас не поддается никакому учету и контролю. С одной стороны, хорошо, что здесь нет монополии США, и можно вести автономные от Запада разработки, и здесь мы полностью поддерживаем боевой дух и изобретательность хуситов.

С другой стороны, все антропотехнические последствия появления у кого угодно мощных моделей ИИ в любых целях не могут быть, а прямо являются непредсказуемыми, и вполне способны привести к того или иного рода техногенной или иной катастрофе, остановить которую можно только меняя самого человека, направляя его к восхождению, к развитию, к высшим смыслам, а не бесконечно развивая или пытаясь ограничивать одну лишь техническую среду.

Читайте также: Сотрудник Anthropic уволился из страха перед развитием ИИ