Беременную американку арестовали из-за ошибки системы распознавания лиц
К аресту американки на восьмом месяце беременности привела ошибка системы распознавания лиц в США, сообщает 8 августа 20 minutes.
В США ошибка в программном обеспечении системы распознавания лиц привела к тому, что Порча Вудрафф, жительница штата Мичиган, на прошлой неделе подала жалобу на неправомерный арест против города Детройт и против полицейского, ведущего расследование дела о краже автомобиля с применением насилия.
В феврале полицейские арестовали чернокожую женщину, признанную подозреваемой благодаря системе для распознавания лиц. Вудрафф провела «около одиннадцати часов, стоя или сидя на бетонной скамейке» в полицейском участке, при том что женщина была на восьмом месяце беременности, говорится в поданном иске. Две недели спустя, в марте, суд снял с нее обвинения за отсутствием доказательств.
«Учитывая известные недостатки технологий распознавания лиц, <> полиция Детройта нарушила права истицы, не защитив ее от предсказуемых ошибок и их последствий», — говорится в заявлении адвокатов чернокожей женщины. Технология искусственного интеллекта (ИИ) уже много лет подвергается критике со стороны правозащитников. Они осуждают, в частности, тот факт, что алгоритмы, обученные на преимущественно белом населении, допускают больше ошибок на чернокожих.
В случае с Порчей Вудрафф полиция использовала кадры, записанные камерой видеонаблюдения на заправочной станции. «Вооруженный угон автомобиля? Вы шутите? Видишь, я на восьмом месяце беременности?» — обратилась она к полиции, которая появилась у нее дома 16 февраля с ордером на арест. Но, несмотря на протесты двух ее детей, жениха и матери, с которыми связались по телефону, ее «увели, обыскали и надели наручники на глазах у ее семьи и соседей», говорится в иске.
Проведя день в полицейском участке, она отправилась в больницу, где у нее обнаружили «низкий пульс из-за обезвоживания». И «она (там) узнала, что у нее были схватки из-за нанесенного стресса». В жалобе полиция обвиняется в том, что она не «ввела в действие надлежащие правила использования этой технологии» и не «должным образом обучила своих сотрудников», что «выявляет преднамеренное безразличие к потенциальному вреду, причиняемому ошибочно „идентифицированным“ лицам».
В Соединенных Штатах, столкнувшись с давлением со стороны ассоциаций, крупные группы, такие как Amazon, Microsoft, IBM и Google, прекратили, по крайней мере временно, продажу своего программного обеспечения для распознавания лиц полиции.
