Microsoft разработала инструмент для проверки защищённости ИИ-систем

Специальный инструмент для тестирования защищенности платформ с технологией искусственного интеллекта создала компания Microsoft, 4 мая сообщает портал 3dnews.ru.

Этот инструмент называется Counterfit. У программы открытый исходный код. Она предназначена для атак на различные ИИ-модели. В Microsoft заявили, что Counterrift стал автоматизированным инструментом, который входит в их программу тестирования ИИ-платформ. Как имеющихся, так и тех, которые Microsoft только разрабатывает.

В компании сообщают, что их инструмент будет легко освоен специалистами по кибербезопасности, которые пользовались такими инструментами, как Metasploit или PowerShell Empyre. Counterrift после проведения тестовой атаки создает логи, которые в дальнейшем могут быть использованы специалистами для совершенствования своих средств безопасности для ИИ.