Огульная цифровизация угрожает правам человека — комиссар ООН

Система социального рейтинга, распознавание лиц и эмоций, автоматический сбор данных пользователей, а также ряд других цифровых технологий на основе искусственного интеллекта (ИИ) угрожают правам человека, к такому выводу пришли специалисты ООН в рамках исследования «Право на частную жизнь в цифровую эпоху». 15 сентября отчет с результатами исследования был выложен на сайте офиса Верховного комиссара ООН по правам человека.

Согласно пресс-релизу, в отчете описывается, как государства и корпорации внедряют цифровые технологии на базе искусственного интеллекта без оглядки на права и свободы граждан.

В комментарии к отчету Верховный комиссар Мишель Бачелет заявила, что «риск дискриминации, вызванной решением ИИ, решением, которое может изменить или искалечить человеческую жизнь, как никогда реальна». Например, человека могут арестовать из-за ошибки распознавания лица или лишить работы или социального обеспечения по решению, принятому алгоритмом.

Она также заметила, что дискриминация со стороны ИИ может иметь «колоссальные масштабы» и при этом быть «практически необнаружимой». В связи с этим также прозвучал призыв к государствам и корпорациям по обеспечению прозрачности в этой области.

В отчете также предостерегли от использования технологий по распознаванию эмоций, т. к. они подвержены ошибкам и неверным интерпретациям, а также имеют слабое научное обоснование.

Отметим, в России идет активное внедрение цифровых технологий на основе ИИ, в том числе из числа упомянутых в отчете ООН. Так, камеры с системой распознавания лиц массово внедряют в российских школах. Также все больше продвигается использование коммерческих образовательных платформ, подбор заданий на которых осуществляется с помощью ИИ. Непрозрачность алгоритмов подбора и блокировки контента на видеохостингах и соцсетях зачастую становится предметом громких скандалов.