Число смертельных инцидентов, вызванных чат-ботами, будет расти — мнение
Информация о случаях развития у жителей США психозов при использовании чат-ботов на базе искусственного интеллекта с последовавшими самоубийствами и убийствами вызывает вопросы относительно бесконтрольного использования чат-ботов несовершеннолетними, считает социальная редакция ИА Красная Весна.
Американское издание The Wall Street Journal со ссылкой на психиатра Калифорнийского университета в Сан-Франциско Кита Сакату 27 декабря сообщило, что по меньшей мере у 12 пациентов психозы были связаны с использованием ИИ-ботов. Также отмечается, что с весны 2025 года были десятки случаев бредового психоза после общения с чат-ботами, а в ряде случаев речь шла о самоубийствах и как минимум об одном убийстве.
К инцидентам были причастны сервисы OpenAI и ChatGPT. Упоминается также чат-бот компании Meta (организация, деятельность которой запрещена в РФ), и что другие разработчики, включая Character.AI, признали, что их сервисы могут способствовать проблемам с психическим здоровьем.
Не вызывает сомнений, что рано или поздно чат-бот окажется причастным и к случаям стрельбы в публичных местах, в том числе в школах, так как подобных случаев в США наблюдаются сотни в год (по данным за ноябрь около 400 случаев в 2025 году).
Подобные инциденты могут быть приближены также и новым указом президента США Дональда Трампа от 12 декабря, который вводит единую систему регулирования в сфере искусственного интеллекта, способствующую ускоренному внедрению инноваций «без обременительного регулирования». По данным Forbes, документ лоббировали такие технологические компании, как OpenAI и Google.
В то же время не стоит сомневаться, что аналогичные случаи с развитием психозов при использовании чат-ботов со временем произойдут и в России, так как отечественные продукты ИИ зачастую базируются на западных сервисах, но нет никакого законодательного регулирования этой сферы. ИИ чат-боты пока не считаются опасными для несовершеннолетних.
Читайте также: WSJ: общение с ИИ вызывает галлюцинации
