Создатели ChatGPT готовы сообщать властям о планах суицида у пользователей
Компания OpenAI, которая управляет чат-ботом ChatGPT, рассматривает вариант обращения к властям, когда молодые пользователи всерьез заговорят о самоубийстве, пишет 11 сентября газета The Guardian.
Исполнительный директор компании Сэм Альтман высказал опасения, что до 1500 человек в неделю могут обсуждать с чат-ботом возможность самоубийства, прежде чем сделать это.
Он заявил, что решение обучить систему предупреждению органов власти о подобных чрезвычайных ситуациях, еще не окончательно, но, по его словам, «с нашей стороны было бы очень разумным в случаях, когда молодые люди серьезно говорят о самоубийстве, а мы не можем связаться с родителями, обратиться к властям».
В интервью подкастеру Такеру Карлсону Альтман рассказал о том, что такая идея возникла после того, как на OpenAI и Альтмана подала в суд семья Адама Рейна, 16-летнего подростка из Калифорнии.
Юноша покончил с собой после того, что адвокат его семьи назвал «месяцами поощрения» его намерений со стороны ChatGPT. Согласно судебному иску, чат-бот подсказал ему, сработает ли его метод самоубийства, и предложил помочь написать предсмертную записку родителям.
Это стало бы заметным изменением в политике ИИ-компании, отметил Альтман, который подчеркнул, что «конфиденциальность пользователей действительно важна». Он сказал, что в настоящее время, если у пользователя появляются суицидальные мысли, ChatGPT призывает его «позвонить на горячую линию для самоубийц».
После смерти Рейна в апреле компания стоимостью 500 миллиардов долларов заявила, что установит «более строгие барьеры вокруг конфиденциального контента и рискованного поведения» для пользователей младше 18 лет и введет родительский контроль, чтобы позволить родителям «лучше понять то, как их подростки используют ChatGPT, и дать им нужное направление».
Альтман также сказал, что он запретит некоторым уязвимым людям использовать систему для получения советов о самоубийстве, делая вид, что они запрашивают информацию для вымышленной истории, которую они якобы пишут, или для медицинских исследований.
По его мнению, было бы разумно «лишить некоторой свободы несовершеннолетних пользователей и, возможно, пользователей, которые, по нашему мнению, в целом находятся в неустойчивом психическом состоянии».
В этом контексте газета напоминает об утверждении Всемирной организации здравоохранения ООН о том, что более 720 000 человек в мире ежегодно совершают самоубийства.
