Бельгийское ИИ-приложение сможет изобличать призывы к ненависти в Интернете

Новый Закон ЕС о цифровых услугах, который вступил в силу в феврале 2024 года, требует от крупных онлайн-платформ пресекать незаконный контент и дезинформацию. Дочерняя компания Антверпенского университета, Textgain, разрабатывает ИИ-приложение, которое станет первой крупной языковой моделью способной выявлять токсичные тексты, рассказывает 22 июля газета The Brussels Times.

Textgain надеется стать лидером на рынке многоязычных технологий искусственного интеллекта, которые помогут платформам и регулирующим органам выявлять разжигающие ненависть высказывания.

«Мы можем идентифицировать токсичные сообщения, а также выяснить, о чем именно они, на кого нацелены, и понять более глубокие закономерности, которые намного сложнее», — отмечает генеральный директор Textgain Гай Де Пау.

Мы рассматриваем возможность сотрудничества с правоохранительными органами, потому что незаконные формы разжигания ненависти, такие как подстрекательство к насилию и распространение дезинформации среди уязвимых групп, в значительной степени подпадают под сферу нашей деятельности, подчеркнул руководитель компании.