Роботы-модераторы вдвое снизили агрессивное поведение в чатах игр Blizzard

Использование искусственного интеллекта при модерации чата видеоигры Overwatch привело к значительному снижению хамского, оскорбительного и грубого общения, сообщил президент компании Blizzard Джей Аллен Брэк 2 ноября в видеоролике из серии Fireside Chat («Беседа у камина») на YouTube.

Глава Blizzard считает, что игровой процесс должен быть комфортным и приятным для всех людей, без оглядки на их идентичность или происхождение. Методы машинного обучения позволяют реагировать на неподобающее поведение в чатах быстрее модераторов-людей.

Брэк утверждает, что модерация чатов при помощи искусственного интеллекта позволяет значительно сократить количество нелицеприятных высказываний и оскорблений, а также предотвратить рецидивы у наиболее агрессивных геймеров-хулиганов. По словам Брэка, в некоторых играх случаи агрессивного общения были снижены вдвое.

«Мы наблюдаем невероятное снижение не только токсичности чатов, но и общее снижение числа повторных правонарушений», — рассказал президент Blizzard.

Он отметил, что система машинной модерации сейчас используется в таких проектах студии как Overwatch, Heroes of the Storm, а так же, с недавнего времени, в открытых чатах World of Warcraft.

Недавно компанией были ужесточены штрафные санкции за агрессивное поведение в Overwatch. Вместе с этим были добавлены настраиваемые фильтры ненормативной лексики, предполагающие три уровня «приемлимости языка».