«Одноклассники» включили ИИ для снижения токсичности комментариев

Временные ограничения в комментировании материалов ввела социальная сеть «Одноклассники» с использованием искусственного интеллекта (ИИ) в отношении пользователей, которые пишут оскорбительные комментарии, 26 ноября сообщила пресс-служба администрации соцсети.

В пресс-службе сообщили, что на платформе внедрили модель машинного обучения, позволяющую автоматически выявлять токсичные комментарии. Автоматика позволяет ограничивать авторов таких сообщений, блокируя для них возможность писать новые сообщения в течение определенного промежутка времени — от 1 до 24 часов. Время блокировки зависит от того, насколько часто пользователь оставлял оскорбительные высказывания.

В результате нововведений количество оскорбительных сообщений под публикациями сократилось на 47%.

Согласно исследованию, проведенному социальной сетью, негативные публикации вызывают злость у более чем 40% опрошенных.

«Мы видим по запросам пользователей, что у нашей аудитории есть потребность в пространстве для безопасного и уважительного общения: треть всех жалоб на платформе связаны с негативными, по мнению пользователей, комментариями, а 80% обращений в службу поддержки по поводу комментариев нацелены против токсичности», — заявил директор по продуктам «Одноклассников» Александр Москвичев.