«Улучшение» снимков расстрелов в Миннесоте привело к травле непричастных
Использование нейросетевых инструментов для «улучшения» изображений из Миннеаполиса, где в ходе рейдов иммиграционной и таможенной службы США (ICE) погиб человек, привело к преследованию непричастного к этим событиям человека, 3 февраля сообщил директор по исследованиям и обучению в Bellingcat (организация, признанная нежелательной в РФ) Джанкарло Фиорелла, передает CTV News.
В частности, по словам Фиореллы, граждане пытались с помощью «искусственного интеллекта» удалить маску с лица человека, который, как считается, нанес смертельные ранения Рене Гуду. Обработке подвергались и другие фотографии с места событий.
«Мы обнаружили в интернете большое количество изображений, которые были, так сказать, „увеличены“ с помощью инструментов искусственного интеллекта обычными людьми, желавшими выяснить, что именно произошло в этих случаях», — сообщил Фиорелла.
Однако произошло то, что называют «галлюцинациями ИИ» — инструмент просто дорисовал недостающие детали. «Платформа никак не может знать, как на самом деле выглядит этот человек, — цитирует слова собеседника телеканал. — Она заполняет недостающие данные, основываясь на том, как, по ее мнению, может выглядеть его лицо, исходя из других изображений людей, на которых обучались эти платформы».
В результате было получено изображение, которое пользователи Сети опознали как фотографию Стива Гроува, издателя газеты Minnesota Star Tribune. Его начали целенаправленно искать и преследовать.
Впоследствии суд идентифицировал предполагаемого стрелка как Джонатана Росса. Газета Minnesota Star Tribune осудила кампанию по травле издателя, подчеркнув, что он не имеет никакого отношения к службе ICE (агент которой и застрелил Гуда) и проводимой в Миннесоте кампанией.
Отмечается, что аналогичная ситуация наблюдалась и после гибели при аналогичных обстоятельствах Алекса Претти. При этом Фиорелла отметил, что подобные случаи происходят всё чаще.
По его мнению, значительная доля вины за подобные инциденты лежит на владельцах соцсетей. Он предложил помечать созданные нейросетями изображения и другой контент тем или иным способом.
Напомним, в Миннесоте прошли рейды ICE, против которых протестовали как власти штата, так и некоторые граждане. В ходе рейдов происходили столкновения граждан с агентами ICE.
В результате таких столкновений были пострадавшие, двое погибли. Губернатор штата провел аналогию с событиями в Форт-Самнер в 1861 году, которые стали началом гражданской войны в США.
