В Ирландии рассказали, как ИИ в интернете склоняет детей к самоубийствам
Алгоритмы социальных сетей предлагают детям материалы, пропагандирующие самоубийство, заявили эксперты на заседании Комитета по делам детей парламента Ирландии, 13 февраля пишет The Journal.
Слушания были посвящены защите детей от воздействия алгоритмов так называемого искусственного интеллекта (ИИ) в интернете. В числе участников слушаний был представитель Ирландского совета по гражданским свободам (ICCL). Он сообщил, что персонализированные ленты соцсетей для привлечения внимания пользователя продвигают всё более экстремальные материалы, включая видео, романтизирующие самоубийства.
«Всего через час после того, как их исследователи создали аккаунт в TikTok, выдавая себя за 13-летнего ребенка, который просматривает контент о психическом здоровье, искусственный интеллект TikTok начал показывать ребенку видео, гламуризирующие самоубийство», — описал эксперт ICCL исследование, проведенное специалистами Amnesty International. Также была приведена реальная история самоубийства девочки после воздействия такого контента.
«Этот рекомендательный системный ИИ манипулирует нашими детьми и делает их зависимыми. Это способствует боли, ненависти, ненависти к себе и самоубийству», — подчеркнули в ICCL.
Эксперт организации Cyber Safe Kids напомнил, что в Сети много и других опасностей для детей. В частности, киберпреступники нередко занимаются шантажом детей, используя самые современные наработки в области психологии.
«Киберпреступники, стремящиеся к сексуальному вымогательству у онлайн-пользователей, в том числе детей, используют передовую тактику социальной инженерии, чтобы заставить своих жертв делиться компрометирующим контентом», — сообщила эксперт организации Клэр Дейли.
Был приведен конкретный пример шантажа мальчика-подростка, который думал, что разговаривает со сверстницей-девочкой и поделился своими интимными фотографиями. После этого мошенники начали его шантажировать, запугивая, что если он не заплатит несколько тысяч евро, фотографии будут выложены в закрытой группе соцсети, где есть его сверстники, а также младшие братья и сестры.
При этом, отметила, Клэр Дейли, новые технологии позволяют создавать цифровые изображения детей, имитирующие настоящие.
Напомним, премьер-министр канадской провинции Британская Колумбия пообещал запретить телефоны в школах после того, как 12-летний подросток покончил с собой, подвергшись шантажу в интернете. Мошенники выманили у него интимные фотографии и шантажировали ими мальчика.
В России произошел схожий случай. Девочка из Подмосковья предоставила мошеннику свои интимные фотографии, поверив в обещание снять ее в клипе популярной среди молодежи исполнительницы. Получив фотографии, мошенник стал торговать ими в интернете.
