Специалист по инфобезу из ФРГ предупредил о взломах с использованием ИИ

О последствиях стремительного развития искусственного интеллекта для безопасности интернета предупредил исследователь в области информационной безопасности Торстен Хольц 31 июля в интервью Der Spiegel.

По словам эксперта, модели ИИ стали «настолько мощными, что могут обнаруживать уязвимости в системе безопасности, которые люди и традиционные инструменты упускали из виду». Кроме того, по мнению Хольца, модели ИИ также могут применять полученные знания на практике.

«Следующие два-четыре года будут непростыми», — предупредил Хольц. Это связано с тем, что модели искусственного интеллекта «совершили крупный технологический скачок за последние четыре-шесть месяцев».

Отмечается, что Хольц — научный директор Института безопасности и конфиденциальности им. Макса Планка в Бохуме, который вместе с международной командой разработал изолированную тестовую среду, из которой недавно вырвалась программа искусственного интеллекта OpenAI и впоследствии автономно взломала две компании.

«То, что там произошло, немного безумно. Такой уровень автономности в ИИ — это что-то новое», — сказал Хольц об инциденте.

В ходе интервью известный IT-эксперт, выявивший многочисленные уязвимости в сфере информационной безопасности, обвинил OpenAI в недостаточном контроле над инцидентом.

«Команда OpenAI должна была гораздо раньше заметить, что необычно большой объем сетевого трафика внезапно стал направляться на другие веб-сайты», — сказал Хольц.

В то же время эксперт надеется, что искусственный интеллект сможет улучшить безопасность программного обеспечения в долгосрочной перспективе и сможет заблаговременно выявлять уязвимости до того, как их обнаружат злоумышленники.

«Да, мы можем контролировать ИИ с технической точки зрения. Просто это требует большей осмотрительности, чем продемонстрировала здесь компания OpenAI», — сказал Хольц.