Хакеры взломали ChatGPT, чтобы тот мог генерировать вредоносный контент
Новые способы взлома чат-бота с искусственным интеллектом ChatGPT выявила исследовательская фирма Checkpoint, 23 февраля сообщает Fox News.
Как показывает исследование, киберпреступники научились создавать собственных ботов, которые, проникая в API OpenAI GPT-3, могут изменять его код.
Боты работали через мессенджер Telegram, где они свободно могут настраивать взломанную версию ChatGPT без ограничений.
Взломанный чат-бот может генерировать вредоносный контент. При обычных настройках ChatGPT отказывает в запросах на создание вирусов, фишинговых электронных писем, скриптов вредоносного ПО и тому подобного.
С помощью измененного кода OpenAI киберпреступники могут генерировать фишинговые электронные письма, выдавая себя за другого человека или даже фирму.
Напомним, в январе 2023 года тысячи пользователей обманом заставили оплатить работу в приложении, имитирующем ChatGPT для iOS и Android. В то же время ChatGPT можно использовать совершенно бесплатно, за исключением взноса за пользование ChatGPT Plus в размере $20 в месяц.
