Twitch представил инструмент, выявляющий зрителей, обходящих блокировки

Инструмент Suspicious User Detection для отслеживания пользователей, обходящих блокировки на каналах, представлен Twitch 1 декабря на сайте стримингового сервиса.

Уточняется, что речь идет о функции, использующей специальные алгоритмы для обнаружения подозрительных пользователей, создающих дополнительные аккаунты для того, чтобы попадать на каналы, где они были заблокированы.

Инструмент будет оценивать пользователей, отмечая у подозрительных аккаунтов их «вероятную» и «возможную» принадлежность к нарушителям, обнаруживать пустые профили, созданные специально для преодоления блокировок.

Сообщения, которые будут отправляться с «вероятных» аккаунтов, не будут отображаться в чатах, но их получат модераторы и сам стример. После чего они примут решение, оставить ограничение для профиля, снять его, или забанить окончательно.

Сообщения пользователей, отмеченных нейросетью, как «возможные», будут появляться в чате. Однако для стримера и его модераторов, они будут видны с особой отметкой, позволяющей обратить внимание на пользователя.

Кроме того, у авторов трансляций появится возможность настройки того, как система должна реагировать на отмеченных пользователей — например, ограничить появление в чатах сообщений от «возможных» зрителей.

Функция Suspicious User Detection будет включена для всех стримеров по умолчанию, однако ее можно отключить по желанию владельца канала. Судя по всему система, так как основана на алгоритмах машинного обучения, все еще «учится» работать с нарушителями блокировок. Поэтому Twitch предупредил, что на первых порах могут возникать ситуации, когда пользователи не будут отмечены, несмотря на явный обход бана, а также могут появиться метки на аккаунтах, не обходивших блокировку. Twitch заверил, что со временем инструмент научится более качественно работать с выявлением нарушителей.