Нейросеть начала использовать ненормативную лексику
Создателям отечественного голосового ИИ-ассистента, предназначенного для управляющих компаний в сфере ЖКХ, пришлось провести дообучение нейросети, поскольку она начала употреблять нецензурные выражения, рассказал президент Национального объединения организаций в сфере технологий информационного моделирования (НОТИМ) Михаил Викторов, 12 февраля сообщает РБК.
В ходе первого месяца обучения нейросеть начала использовать ненормативную лексику, что потребовало изменений в её модели. Викторов подчеркнул, что это свидетельствует о её активном взаимодействии с реальными пользователями.
По словам Викторова, с кем поведешься, от того и наберешься. Поэтому эту коллизию, конечно, пришлось устранять.
Он подчеркнул, что голосовые роботы существенно сокращают потребность в персонале call-центров, уменьшая её примерно в пять-шесть раз. Вместо двадцати сотрудников теперь достаточно двух-трёх, поскольку нейросеть справляется с обработкой 80–90% запросов. Большинство пользователей довольны ответами ИИ, но в сложных или критических случаях они предпочитают общаться с живым оператором.
