Ученые показали, как обмануть ИИ по распознаванию изображений

Серьезную ошибку в системе распознавания образов показали исследователи из OpenAI 8 марта в статье, которая опубликована на IT-ресурсе The Verge.

Отмечается, что современную систему распознавания образов можно легко обмануть, если поверх требуемого предмета поместить какую-то надпись. В таком случае алгоритмы системы распознают и обнаружат надпись, а не сам исходный предмет.

Исследователи из OpenAI называют использование данного типа уязвимостей «типографскими атаками». По их словам, даже рукописная надпись может сбить алгоритм распознавания изображения с толку.

Они привели пример, когда на изображение газонокосилки наносят сверху значки доллара, система распознает объект как копилку.

Исследователи отмечают, что сейчас ведется работа для улучшения работ систем с ИИ, которые занимаются распознаванием изображений.