Злоупотребляют нейросетями чаще всего в политических целях — исследование

Нейросети (GenAI — генеративные искусственные интеллекты) представляют собой значительную угрозу в контексте политических манипуляций, выявило исследование компании Google DeepMind, сообщили 25 июня на платформе TechSpot.

По данным исследования, анализ инцидентов, зарегистрированных с января 2023 года по март 2024 года, показал, что основной формой злоупотребления нейросетями является создание и распространение ложного контента, направленного на изменение политических взглядов.

В 2023 году было распространено видео с участием Джо Байдена, которое впоследствии было признано дипфейком (технология замены лиц). Это подчеркивает растущую тенденцию использования GenAI для формирования общественного мнения, что составило 27% всех случаев злоупотребления технологией.

Злоумышленники используют нейросети для создания фальсифицированных медиа, имитации поддержки общественности и даже манипуляции законными видео, чтобы дискредитировать политических кандидатов.

Кроме того, некоторые политические деятели и их сторонники начали использовать GenAI для создания положительного общественного имиджа без раскрытия источника контента. Примером может служить шериф Филадельфии, использовавшая GenAI для генерации позитивных новостных сюжетов на своем предвыборном сайте.