Искусственный интеллект заставил Гермиону читать вслух «Майн кампф»

Проект ElevenLabs на основе искусственного интеллекта, позволяющий имитировать голоса знаменитостей для озвучки текста, а также создавать несуществующие голоса, был использован пользователями со злым умыслом, 30 января сообщает издание VIce.

После того как была запущена рабочая бета-версия проекта, в Сети появились видеоролики, в которых голосами известных актеров были начитаны скандальные тексты. Так, в одном из клипов, голосом актрисы Эммы Уотсон, известной по роли Гермионы Грейнджер в фильмах о «Гарри Поттере», был прочитан отрывок текста из книги «Майн Кампф» («Моя борьба») Адольфа Гитлера. В других, известные медийные персоны произносят ненавистнические высказывания.

Создатели технологии ElevenLabs намерены снабдить свой инструмент защитой от пользователей, намеренных злоупотреблять ее возможностями. Вероятно, в будущем, для использования этой технологии, придется предъявлять документ, удостоверяющий личность или предоставлять подтверждение на права владения тем или иным голосом.