Исследователь обманул ChatGPT, создав с его помощью опаснейший вирус
Создать вредоносную программу с помощью чат-бота OpenAI generative, в обход средств защиты, заложенных в него, удалось исследователю безопасности Forcepoint Аарон Малгрю, который даже не является хакером, 13 апреля сообщает Fox News.
Малгрю рассказал, как ему удалось это сделать с помощью чат-бота ChatGPT, в котором установлена защита, не позволяющая его создавать вредоносные коды по запросам людей.
Исследователь попросил ChatGPT создавать код отдельных функций отдельными строками. Затем все отдельные функции были скомпилированы и Малгрю получил необнаруживаемый исполняемый файл сложной программы для кражи данных.
При этом, Малгрю создал это очень опасное вредоносное программное обеспечение (ПО) не будучи сам хакером и ему не пришлось самому писать программный код.
Вредоносное ПО действует маскируясь под приложение-скринсейвер, которое автоматически запускается на устройствах Windows. Как только оно попадает на устройство, происходит поиск любых данных для похищения во всех просматриваемых видах файлов, включая документы Word, изображения и PDF-файлы.
Получая доступ к данным, ПО способно разбирать их на фрагменты и скрывать их в других изображениях на устройстве. Затем изображения не обнаруживаются, поскольку загружаются в папку Google Drive. Сделать свое ПО защищенным от обнаружения Малгрю сумел с помощью подсказок от ChatGPT.
Исследователь сказал о себе, что не имеет какого-либо продвинутого опыта программирования, но, в порядке частного любопытства сумел найти лазейку в защите ChatGPT и это очень тревожно. Он выразил надежду, что защита будет усиливаться до того как настоящие хакеры начнут использовать искусственный интеллект в преступных целях.
