Создан ИИ, который будет цензурировать токсичное общение в игровых чатах

Искусственный интеллект, занимающийся обработкой естественного языка, который может анализировать онлайн-текст на наличие токсичного поведения, создан компанией Spectrum Labs, 8 сентября сообщает Venturebeat.

Компания из Майами запустила первый в истории ИИ следящий за здоровым поведением в партнерстве с IMVU Together Labs, одной из крупнейших в мире социальных игровых платформ — или, как их сейчас называют, платформой-метавселенной.

По мнению Джастина Дэвиса, генерального директора Spectrum Labs, стимулирование позитивного общения в игре может привести к повышению рентабельности инвестиций. По его данным 80% онлайн-геймеров в США подвергались преследованиям, а новая разработка усиливает существующий ИИ, занимающийся модерацией контента. Он удаляет «токсичный» контент и создает возможность распознавать и вознаграждать просоциальное поведение пользователей.

С момента внедрения искусственного интеллекта для модерации «токсичного контента» от Spectrum Labs, компания Together Labs добилась положительного результата при сравнении удержания пользователей в модерируемых и немодерируемых комнатах, заявила Мора Уэлч, вице-президент по маркетингу Together Labs.