Проводить платежи с помощью технологии распознавания лиц опасно — эксперт
Системы распознавания лиц, как и другие программные комплексы на базе искусственных нейронных сетей, уязвимы к хакерским атакам, заявил главный инженер разработки в банковской сфере Павел Колганов 2 июля в комментарии ИА Красная Весна.
«Заявление Дмитрия Медведева о применимости технологии распознавания лиц для проведения относительно небольших платежей сделано не специалистом. Медведев — юрист и политик, а не специалист по нейросетям. К сожалению, нейронные сети уязвимы к атакам злоумышленников», — заявил Колганов.
Искусственные нейронные сети могут распознавать изображение со специально нанесенным «шумом» совершенно отлично, чем оригинальное. Причем нанесенное искажающее изображение (тот самый «шум») может быть практически незаметным для человеческого глаза, как ввиду низкого контраста, так и по причине малого размера.
«Существуют атаки с изменением одного единственного пикселя на изображении, приводящие к полностью неправильному распознанию образа. Более того, ряд атак описаны математически и могут быть воспроизведены в разных условиях», — сообщил программист.
Конечно, нейросети учат избегать типовых атак. Но, во-первых, возникает противостояние атаки и защиты, в котором нападение всегда будет чуть впереди. Во-вторых, дополнительную задержку вносит необходимость переобучение нейросети на месте применения с учетом всех известных атак.
«Существует высокая вероятность скорого появления методов нанесения на лицо человека малозаметного „шума“, который заставит технологию распознавания лиц ошибиться нужным злоумышленнику способом. Это создает дополнительное пространство для хакерских атак. Пусть даже и на малые транзакции», — заявил Колганов.
Напомним, 2 июля зампредседателя Совбеза России и председатель попечительного совета «Сколково» Дмитрий Медведев переговорил по видеосвязи с руководителями компаний под кураторством фонда. В частности, Медведев пообщался с одним из основателей компании VisionLabs.
Читайте также: Медведев оценил возможность транзакции через распознавание лиц
Последний продемонстрировал председателю попечительного совета решение, позволяющее совершать покупки и проводить финансовые операции с идентификацией через систему распознавания лиц. Сооснователь VisionLabs пояснил, что вероятности ошибки технологии меньше, чем у живого оператора — примерно одна ошибка на 10 млн операций распознавания.
Медведев заявил, что такую технологию можно было бы использовать для относительно небольших платежей: «на бензоколонке или в метро».
