ИИ в сети Facebook будет определять пользователей, склонных к суициду

Находить пользователей с суицидальными настроениями с помощью систем искусственного интеллекта (ИИ) и предлагать им помощь будет команда социальной сети Facebook, сообщает 2 марта Би-би-си.

Специалисты социальной сети разработали алгоритмы, позволяющие распознавать «тревожные сигналы» в постах пользователей и комментариях их друзей. Такими сигналами могут послужить сообщения о боли и грусти и обеспокоенные вопросы в ответ. После подтверждения, полученного от команды исследователей, специалисты будут связываться с людьми из группы риска и предлагать помощь. При этом социальная сеть обещает не блокировать ленты таких пользователей, так как это не позволит вовремя оказать им поддержку.

Руководитель данной программы заявил, что решение принять подобные меры было «не просто полезным, а критически необходимым».

Данный инструмент сейчас находится на стадии тестирования и применяется только в США. Это первое использование технологий ИИ для просмотра сообщений в сети Facebook. Facebook также объявил о работе над новыми способами борьбы с суицидальным поведением во время онлайн-видеотрансляций и сотрудничестве с несколькими американскими организациями психического здоровья, с которыми могут связаться пользователи группы риска через платформенный мессенджер.

Напомним, что в сети Facebook уже несколько лет существует возможность для пользователей вручную отправить информацию о суицидальных постах администраторам сети.

В прошлом месяце основатель сети Марк Цукерберг объявил, что он также надеется использовать автоматические алгоритмы контент-анализа для выявления постов террористической направленности.