В Китае научились внедрять вирусы в искусственные нейронные сети

Возможность внедрения вирусов в нейронные сети с минимальным ущербом для производительности устройств изучили китайские ученые, 23 июля сообщает пресс-служба университета Китайской академии наук.

По данным ученых, в одной сети можно без риска поменять около половины искусственных нейронов и пропустить вредоносный код незаметно от защитных сканеров.

Эксперт в сфере информационной безопасности Лукаш Олейник предположил почему вирус, внедренный в нейронную сеть, так трудно поймать: «Обнаружить такого зловреда с помощью антивирусов в настоящее время затруднительно. Но причина лишь в том, что никому в голову не приходит искать его в подобном месте».

Доказать это им удалось, протестировав реакцию нейросети на появление в ее структуре вируса, в лабораторных условиях.

Для опыта была использована сеть AlexNet и несколько образцов настоящих вирусов. В ходе эксперимента сотрудники университета вживляли эти вирусы в скрытые слои сети, регистрируя общее количество необходимых замен в сети и стабильность работы всех ее элементов. В результате были получены данные, в соответствии с которыми, при внедрении кода производительность падает менее, чем на один процент.

При этом исследователи уточнили, что если кому-либо необходимо иметь доступ к сторонним данным, и для этого он использует вирусные программы, есть некоторые условия. Например, в одном случае необходимо построить подходящую нейросеть заново и подготовить набор данных, чтобы тренироваться с ними работать в этой сети. В другом — купить уже настроенный образец сети и также убедиться, что вирус не повредит его производительности.

Отметим, по данным Китайской академии наук, полученные результаты опыта доказали, что если в сети с объемом памяти 178 мегабайт вживить вирусный код с памятью в пределах 36,9 мегабайта, сокращение производительности составит менее одного процента.