ИИ-алгоритм Facebook не справляется с удалением запрещенного контента — WSJ
Менее 20% запрещенного на Facebook контента способен обнаружить и удалить автоматический алгоритм фильтрации, используемый на серверах соцсети, 19 октября написал американский журнал Wall Street Journal со ссылкой на внутренние отчеты компании Facebook.
По информации издания, алгоритмы поиска запрещенного контента, построенные на основе искусственного интеллекта, крайне неэффективно работают с видеороликами от первого лица, а также плохо фильтруют ненавистнические высказывания, чрезмерное насилие и расизм.
В частности, отмечается, что видеозапись петушиных боев алгоритм может в некоторых случаях внести в категорию автокатастроф. По данным аудита, анализатор контента может заблокировать не более 10% всех человеконенавистнических высказываний. Кроме того, недостаточная эффективность анализа приводит к тому, что программа не может принять однозначное решение о блокировке. В результате она просто ограничивает доступ к таким сообщениям, а опубликовавший их автор вообще не понесет наказания.
По подсчетам одного из инженеров Facebook, автоматически блокируются сообщения, которые в сумме дают не более 2% просмотров человеконенавистнического контента в масштабах соцсети.
Комментируя данную ситуацию, представитель Facebook Энди Стоун сообщил, что все озвученные проблемы относятся непосредственно к автоматическому удалению, не включая сюда «иные способы» — ручную модерацию и понижение рейтинга сообщений.
Напомним, в 2019 году глава Facebook Марк Цукерберг говорил о том, что автоматические блокировщики справятся с «подавляющим большинством» нежелательного контента, протекающего через соцсеть.
Отметим, данная проблема имеет не только «технический» характер. Так, 4 октября экс-сотрудница Facebook Френсис Хаген заявила в интервью телеканалу CBS, что распространение дезинформации и разжигание ненависти в комментариях на Facebook вполне разрешены, если это способствует увеличению прибыли компании.
