Власти Германии опасаются угроз от ИИ-агентов компаний Anthropic и OpenAI
Правительство Германии призвало к поиску глобальных решений после предупреждений американских IT-лидеров об опасностях ИИ, вышедшего из-под контроля, заявил заместитель официального представителя правительства Штеффен Майер, сообщает 14 сентября «Шпигель».
«Мы очень серьезно относимся к услышанным предупреждениям», — сказал Майер. Он отметил, что высший орган безопасности страны — национальный совет безопасности — уже дважды рассматривал этот вопрос.
Глава компании Anthropic Дарио Амодеи в своем блоге призвал замедлить развитие мощных моделей ИИ, чтобы дать исследователям время на разработку эффективных мер безопасности. По его словам, у человечества может остаться всего от шести до двенадцати месяцев до потери контроля над такими системами.
Амодеи предложил допустить независимых инспекторов в компании, установить международные стандарты и более осторожно относиться к системам, способным к самостоятельному развитию без надзора. Его инициативу поддержали конкуренты, включая главу OpenAI Сэма Альтмана и предпринимателя Илона Маска.
Майер подчеркнул, что ИИ открывает большие возможности для экономики, производительности и медицины, но также несет риски. Он призвал искать решения в рамках G7, сочетая использование преимуществ технологии с решительными действиями по устранению угроз.
Представитель Федерального министерства цифровых технологий заявил, что ИИ-модели, способные самостоятельно выходить из тестовых сред и проникать в другие системы, представляют собой совершенно новую угрозу. В ответ на это правительство создало Национальный институт безопасности ИИ «AISI Deutschland», который должен оперативно выявлять связанные с ИИ риски.
Напомним, Германия подошла к теме контроля за продвинутым ИИ не на пустом месте: 8–9 июня 2026 года Национальный совет безопасности страны рассмотрел последствия новых моделей ИИ для кибербезопасности и решил создать специальный институт для их оценки. В тот же период Берлин начал выстраивать собственную инфраструктуру экспертной проверки ИИ, чтобы не зависеть полностью от иностранных оценок и стандартов.
31 августа 2026 года власти официально запустили AISI Deutschland в Берлине, а уже 1 сентября институт начал работу. Его задача — системно анализировать возможности и риски мощных ИИ-моделей и поддерживать обмен данными с зарубежными партнерами; это стало частью более широкой немецкой линии на усиление цифровой безопасности и выработку общих международных правил.
На этом фоне в 2026 году усилились и глобальные споры о рисках передовых ИИ-систем: в публичной дискуссии Дарио Амодеи и другие представители индустрии неоднократно поднимали тему безопасности, а в Европе и США всё чаще обсуждали независимый аудит, стандарты и контроль за моделями, способными к автономным действиям. Именно эти дебаты и создали контекст, в котором Берлин стал активнее продвигать тему координации через G7 и международные механизмы.
