Роскомнадзор заинтересован в программе для проверки выступлений на ложь
Отечественные ученые разработали для Роскомнадзора программу по выявлению лжи, манипуляций и «дипфейков», 2 ноября сообщило издание «Коммерсант».
Сообщается, что сервис Expert с использованием технологии искусственного интеллекта (ИИ) позволит выявлять ложь и манипуляции на основе видеозаписи выступлений. Программа разрабатывается для Главного радиочастотного центра (ГРЧЦ), который подотчетен Роскомнадзору,
Разработками программы являются специалисты Национального центра когнитивных разработок (НЦКР) ИТМО, и по сведениям издания, уже в июле прототип был представлен Роскомнадзору. Отмечается, что глава Роскомнадзора Андрей Липов выразил личную заинтересованность в проекте.
Одна из возможностей программы — оперативное выявление «дипфейков» (deepfake). Подчеркивается, что данная технология позволяет заменять в оригинальном видеоролике элементы изображения, что позволяет делать фальшивые заявления от имени известных людей.
В ИТМО сообщили, что сервис Expert может проводить анализ с видео или аудио, программа позволяет проанализировать: уверенность; уровень внутренней и внешней агрессии; уровень, передаваемой вербальным или невербальным способом, согласованности информации (конгруэнтность); противоречивость (автоматически сравнивает слова с научными статьями и высказываниями других специалистов).
Отмечается, что на данный момент программа работает только с английским языком. Однако сообщается, что уверенность, агрессивность и конгруэнтность можно определить на любом языке. По словам руководителя научно-исследовательской лаборатории ИТМО Олега Басова, английский выбран в качестве самого распространенного языка, а доработка программы на русском языке уже стоит в ближайших планах.
Также Басов рассказал, что программа проходила тестирование на шести кандидатах в сенат США, в заявлении трех кандидатов удалось выявить скрытую агрессию, одного удалось уличить во лжи.
По мнению IT-специалиста, программа от ИТМО сделана на английском языке, потому что на данный момент более 90% отечественных разработок с применением технологии ИИ, построены на открытых зарубежных библиотеках вместе с дата-сетами для их обучения. И для обучения программы русскому языку потребуется большой массив данных и затрат.
В США данные разработки велись Дартмутским колледжем и университетом Мэриленда еще в 2017 году. Созданная нейросеть была натренирована на видеозаписях судебных процессов и занималась распознаванием лжи в суде.
Приводится мнение юриста «ЭБР» Кирилла Ляхманова, что сейчас качество работы нейросети оценивается в плоскости теории вероятности и потребуются годы, чтобы проект начал приносить пользу. Юрист отметил, что анализ «правды» или «лжи» по косвенным признакам, связанным с поведением человека, не выдерживает никакой критики. По его словам, данная программа — «детектор лжи», который не признается в большинстве судов мира.
