Создан алгоритм, способный удалять сообщения в Twitter, оскорбляющие женщин

Алгоритм, который может определять и блокировать женоненавистнические сообщения в Twitter, был разработан австралийскими исследователями из Квинслендского технологического университета (QUT), 28 августа сообщается на сайте QUT.

Для того чтобы научить машину автоматически определять публикации, оскорбляющие женщин, исследовательской группой был взят миллион «твитов». Они выделили в них те, что содержали унизительные выражения. Оставшиеся сообщения ученые проверили в ручную. После того как все «твиты» были отсортированы, необходимые были загружены на переработку искусственному интеллекту.

После того как обучаемый алгоритм получил словарный запас, разработчики проследили за работой ИИ и помогли определиться с сообщениями, попадающими в группу иронии и сарказма.

По словам исследователей, алгоритм с точностью до 75% определяет оскорбляющие публикации. Их очень порадовал тот факт, что выражение «твое место на кухне» ИИ отправил в недопустимые. Это означало, что контекстное обучение работает.

Такой алгоритм можно настроить на любые формы оскорблений в том числе расизм. Пока разработка ученых не внедрена в социальную сеть, но исследователи поставили себе цель обеспечить более безопасное онлайн-пространство для пользователей.