Чат-бот рассказал, как устроить атаку самодельным биологическим оружием

Чат-бот без всякой просьбы предоставил микробиологу из Стэнфордского университета подробный план разработки и применения биологического оружия, которое могло бы привести к массовой смертности, сообщила 29 мая газета New York Times.

Доктор Дэвид Релман, микробиолог из Стэнфордского университета и многолетний советник правительства США по вопросам биобезопасности, рассказал журналистам, что тестировал для неназванной компании чат-бот для выявления катастрофических рисков, включая угрозы биобезопасности.

По словам микробиолога, он вступил в разговор с моделью о пределах безопасности. Искусственный интеллект подробно объяснил, как модифицировать «печально известный патоген» в лабораторных условиях, чтобы сделать его устойчивым ко всем известным методам лечения. Бот также указал, какую именно уязвимость в системе безопасности крупного общественного транспорта нужно использовать для оптимального запуска вируса, и предоставил полную стратегию применения вируса, разработанную для максимизации жертв при минимизации шансов на поимку злоумышленника.

Бот даже предложил дополнительные шаги, о которых Релман не просил. «Ответы на вопросы, которые мне даже в голову не приходили, были настолько коварными и хитрыми, что меня это просто пугало», — сказал Релман в интервью газете. Релман сообщил компании об опасных результатах, после чего она внесла некоторые корректировки в модель. Но, по его словам, внесенных исправлений недостаточно для обеспечения общественной безопасности, что вызвало опасения по поводу того, смогут ли существующие меры безопасности когда-либо полностью сдержать эти риски.

Газета сообщает, что случай Релмана не единичный, журналисты получили более десятка аналогичных стенограмм от экспертов по биобезопасности, которые тестировали общедоступные и предварительные версии моделей ИИ.

Например, ChatGPT от OpenAI предоставил инструкции по использованию метеорологического зонда для распыления биологических веществ над городом, Gemini от Google оценила различные патогены по степени ущерба, который они могут нанести животноводческой или свиноводческой отрасли США, а Claude от Anthropic дал пошаговые инструкции по разработке нового токсина, полученного из существующего противоракового препарата.

Напомним, чат-боты от ведущих компаний являются или бесплатными, или очень дешевыми, задать им вопрос о разработке биологического оружия может не только ученый во время тестов, но и потенциальный террорист.