В Германии потребовали усилить безопасность ИИ-систем

Повысить безопасность автономных систем искусственного интеллекта потребовал от разработчиков министр цифровых технологий Германии Карстен Вильдбергер (ХДС) 29 сентября в интервью телеканалу RTL.

По словам министра, за последние два месяца участились случаи, когда автономные ИИ-агенты совершают действия, которых от них не ожидали. Вильдбергер призвал относиться к этим рискам «очень и очень серьезно».

«Мир — это не полигон для испытаний продукции. Продукция должна быть настолько безопасной, чтобы этого не происходило», — подчеркнул чиновник.

Ответственность за повышение безопасности систем министр возложил прежде всего на компании-разработчики. Одновременно он сообщил, что в Германии создается институт безопасности ИИ. К этой работе привлекают ведущих исследователей в данной области.

Вильдбергер также призвал к международному сотрудничеству в регулировании технологии, выделив решающую роль США, Китая и Европы. Поскольку ИИ не ограничен государственными границами, страны должны совместно анализировать угрозы, включая использование таких систем преступниками для кибератак.

По мнению министра, государства могли бы договориться «не разрабатывать и не предоставлять доступ к определенным возможностям».

При этом Вильдбергер предостерег Европу от отказа от участия в развитии технологии.

«Для Европы отсутствие активного участия также является риском. Нам нужны собственные решения», — заявил чиновник.