Anthropic отозвала новую ИИ-модель из-за опасений по поводу безопасности

Свою новую модель искусственного интеллекта отозвала с рынка американская компания Anthropic, 13 июня пишет немецкая газета Oldenburger Onlinezeitung.

По данным издания, компания обосновала это решение опасениями по поводу безопасности, высказанными властями США всего через несколько дней после публичной презентации программы.

Как указано на сайте компании, ей было приказано запретить иностранным пользователям доступ к Claude Fable 5. Сама компания Anthropic ранее описывала эту программу как слишком мощную.

«В результате этого распоряжения мы должны немедленно отключить Fable 5 и Mythos 5 для всех наших клиентов, чтобы соответствовать требованиям правил», — говорится в заявлении.

Claude Fable 5 — это версия программы Claude Mythos, которая конкурирует с такими сервисами, как ChatGPT от OpenAI и Gemini от Google. По данным Anthropic, американские спецслужбы не выявили каких-либо конкретных угроз. Однако предполагается, что правительство узнало о методе обхода мер безопасности Fable 5.

Компания Anthropic объяснила, что они наблюдали за демонстрацией этого метода, в ходе которой было выявлено несколько незначительных, уже известных уязвимостей. По заявлению специалистов компании, эти уязвимости были относительно простыми и могли быть обнаружены другими общедоступными моделями ИИ без необходимости обхода каких-либо мер безопасности.

Отмечается, что компания Anthropic уже некоторое время находится под пристальным вниманием правительства Соединенных Штатов. Президент США Дональд Трамп публично критиковал компанию, а министр обороны страны Пит Хегсет позже классифицировал ее как «риск в цепочке поставок» — обозначение, которое никогда ранее не применялось к американским компаниям. Эта классификация означает, что продукт или услуга считаются недостаточно безопасными для использования в государственных учреждениях. Ранее она применялась только к компаниям из враждебных государств. Впоследствии Anthropic подала в суд на Пентагон. Заказ Пентагона с тех пор временно приостановлен.