TikTok применит автоматическую модерацию контента

TikTok внедрит в США и Канаде систему автоматического удаления нежелательного содержимого, 9 июля сообщает The Verge.

Новая система будет анализировать публикуемые материалы и удалять видео с обнаженным телом, сексом, насилием и графическим контентом, противоречащим политике TikTok. В случае такого удаления публикаторам придется обращаться к модераторам, если они не согласны с удалением.

В настоящее время все ролики просматриваются живыми людьми и это требует больших человеческих ресурсов. Компания намеревается внедрить автоматизацию, чтобы направить ценные человеческие ресурсы на модерацию более сложных видео, например, анализ дезинформации.

Автоматизированные системы никогда не бывают идеальными, и некоторые публикаторы могут пострадать из-за ошибочного удаления. В TikTok протестировали технологию в других странах, включая Бразилию и Пакистан, и количество ошибочно запрещенных видео составило 5 процентов.

В TikTok заявили, что развернут автоматизированную систему проверки «в течение следующих нескольких недель».