Искусственный интеллект сможет влиять на политический выбор пользователей

Инструменты разговорного искусственного интеллекта (ИИ) вскоре смогут «скрытно влиять» на принятие решений пользователями в новой коммерческой сфере, называемой «экономикой намерений», предупреждают ученые из Кембриджского университета, рассказывает 30 декабря газета South China Morning Post.

Они утверждают, что потенциально «прибыльный, но вызывающий беспокойство» рынок, формирующийся для «цифровых сигналов о намерениях», сможет в ближайшем будущем влиять на всё — от покупки билетов в кино до голосования за политических кандидатов.

«Наша растущая дружба с чат-ботами, цифровыми репетиторами и другими так называемыми „антропоморфными“ агентами искусственного интеллекта помогает внедрять этот новый набор „технологий убеждения“, — отмечают авторы.

В статье, опубликованной в Harvard Data Science Review, предсказывается, что искусственный интеллект объединит знания о наших онлайн-привычках с растущей способностью узнавать пользователя и предугадывать его желания, а также создавать «новые уровни доверия и понимания». Оставленная без контроля, такая ситуация может привести к «социальным манипуляциям в промышленных масштабах».

«Инструменты искусственного интеллекта уже разрабатываются для выявления, сбора, понимания и фиксации человеческих планов, прогнозирования и, в конечном счете, манипулирования целями и превращения их в товар», — утверждают авторы.

Согласно исследованию, новый искусственный интеллект будет опираться на большие языковые модели — LLM, для определения настроений пользователя, его политических взглядов, словарного запаса, возраста, пола, онлайн-истории и даже предпочтений в плане лести и заискивания.

Это может быть связано с другими новыми технологиями искусственного интеллекта, которые направлены на достижение определенной цели, например продажу билетов в кино или переориентирование пользователя на определенные платформы, сайты рекламодателей и даже политические организаций.

Соавтор исследования Джонни Пенн предупреждает: «Если не регулировать экономику намерений, она будет рассматривать ваши мотивации как новую валюту. Это будет золотая лихорадка для тех, кто нацелен на человеческие намерения, управляет ими и продает их».

Осведомленность общественности об этой проблеме является «ключом к тому, чтобы мы не пошли по неверному пути», приводит издание слова ученого.