Эксперты выявили опасные уязвимости ИИ-браузера ChatGPT

Новый браузер с элементами искусственного интеллекта (ИИ)) ChatGPT Atlas от американской компании OpenAI содержит массу уязвимостей, которые можно использовать во вред пользователю, установили независимые эксперты по кибербезопасности. Об этом 23 октября сообщило интернет издание Decrypt.

Специалисты назвали основной проблемой «инъекции в промпты», когда ИИ-браузер, считывая информацию с сайта, может скачать несанкционированную инструкцию и выполнить задание злоумышленников незаметно для пользователя. Особую опасность новинка представляет для пользователей криптовалют.

Например, если поручить ИИ-браузеру сделать обзор какой-либо криптовалюты, скрытая команда, встроенная в текст веб-страницы, может принудить цифрового помощника извлечь и раскрыть сохраненные логины, данные автозаполнения или информацию о входе на торговую площадку.

Критичность ситуации усугубляется масштабами распространения продукта. Браузер становится доступен для 800 млн еженедельных пользователей сервиса OpenAI, что многократно увеличивает потенциальную аудиторию для атак. Исследователи безопасности продемонстрировали успешные атаки уже в первые часы после запуска ChatGPT Atlas.

Глава отдела информационной безопасности OpenAI Дейн Стаки публично признал, что инъекции промптов остаются нерешенной проблемой безопасности. Компания приняла меры защиты, но они пока находятся на начальном этапе. Пользователям рекомендуется самостоятельно отключать функцию памяти и очищать сохраненные данные.

При этом независимые эксперты советуют полностью отказаться от использования ИИ-браузеров на данном этапе. Для экспериментаторов предлагается работать с Atlas как с «тупым» ассистентом, отключив «режим агента» и используя «режим без авторизации» для чувствительных сайтов. Категорически не рекомендуется допускать цифрового помощника к банковским сайтам, медицинским системам, корпоративной почте и облачным хранилищам.