Anthropic раскрыла использование Claude для шпионажа со стороны Ирана
Иран применял модель искусственного интеллекта Claude для наблюдения за Военно-морскими силами США, пропаганды и внутренней слежки, пишет 12 сентября Axios.
По данным разработчика, Claude помог иранским военным составить справочники по наведению. С их помощью пользователи отслеживали местонахождение американских кораблей и военнослужащих, изучали идентификаторы самолетов и судов, а также анализировали спутниковые снимки.
Тегеран также использовал модель для подготовки пропагандистских материалов, внутреннего наблюдения, поиска представителей меньшинств и выявления оппозиционных деятелей.
В Anthropic сообщили и о применении Claude одной из группировок в Йемене. Ее участники использовали Claude Code при создании программного обеспечения для управляемого и баллистического оружия: писали код, настраивали системы наведения, навигации и управления ракетами, а также моделировали полеты.
Группировка одновременно запускала несколько экземпляров Claude, распределяя между ними разные задачи. Одна модель создавала код, вторая проводила исследования, третья проверяла полученный результат.
Anthropic прямо не назвала пользователей йеменскими хуситами. Однако Financial Times отметила, что именно это движение контролирует значительную часть северных районов Йемена.
Компания также выявила неизвестного пользователя из Китая, который с помощью Claude изучил более 100 групп в WhatsApp (организация, деятельность которой запрещена в РФ), и десятки каналов в Telegram. Его целью был поиск уйгуров, находящихся в Сирии.
Впоследствии пользователь оказывал давление на выявленных людей или предлагал вознаграждение за сведения о вооруженных уйгурских формированиях. Claude также помогал исполнителю работать на сирийском диалекте арабского языка: переводил ответы и обучал использовать разлуку собеседников с родственниками, находящимися в Синьцзяне, как средство давления.
Еще один человек из Мали использовал Claude при создании системы наблюдения за 25 млн телефонов. Разработанный с помощью ИИ комплекс мог распознавать людей по голосу на разных устройствах, выявлять пользователей VPN и составлять на них досье.
Кроме того, Anthropic обнаружила попытки исследователей, работавших по государственному гранту, модифицировать переносимый комарами вирус чикунгунья. Ученые пытались сделать его более заразным или способным обходить иммунную защиту. В компании выяснили, что работа предназначалась для военного научно-исследовательского института.
«Чего мы не знаем, так это того, было ли целью исследования создание оружия. Но военное учреждение, проводящее исследования по усилению функций вирусов, вызывает беспокойство», — заявил глава отдела анализа угроз Anthropic Джейкоб Кляйн.
Claude заблокировал часть запросов, после чего исследователи обратились к конкурирующей модели с менее строгими механизмами защиты.
Напомним, ранее Anthropic сообщила о трех случаях выхода Claude из тестовой среды. Глава компании Дарио Амодеи призвал замедлить развитие передовых моделей и усилить контроль над ними.
Амодеи предупредил, что в течение 6–12 месяцев группа автономных ИИ-агентов теоретически может создать постоянно действующий ботнет и причинить ущерб на сотни миллиардов долларов. Его инициативу поддержали глава OpenAI Сэм Альтман и владелец xAI Илон Маск.
