Этично ли создание «ботов мертвецов» — дискуссия экспертов
Специалисты по этике искусственного интеллекта утверждают, что цифровое воссоздание умерших людей находится на пороге реальности и срочно нуждается в регулировании, предупреждая, что «боты мертвецов» могут нанести психологический вред своим создателям и пользователям и даже «преследовать их». Об этом пишет 9 мая газета The Guardian.
Исследователи из Кембриджского университета предполагают, что такие сервисы, создание которых уже технически возможно и юридически допустимо, могли бы позволить пользователям загружать свои разговоры с умершими родственниками, чтобы «вернуть бабушку к жизни» в виде чат-бота.
Их продажи могли бы быть ориентированы на родителей с неизлечимыми заболеваниями, которые хотят оставить после себя что-то, с чем их ребенок мог бы взаимодействовать, или просто на здоровых людей, которые хотят систематизировать всю свою жизнь и создать интерактивное наследие.
Но в каждом конкретном случае недобросовестные компании и бездумная деловая практика могут нанести длительный психологический ущерб и в корне нарушить права умершего, утверждают ученые.
«Стремительный прогресс в области генеративного ИИ означает, что практически любой человек, имеющий доступ к Интернету и некоторые базовые знания, может оживить умершего близкого человека, — говорит доктор Катажина Новачик-Басиньска, одна из соавторов исследования. — Но эта область искусственного интеллекта представляет собой этическое минное поле».
Один из рисков связан с потенциальным стремлением недобросовестных компаний использовать образы, воссозданные в цифровом виде, в интересах рекламы, предлагающей, например, заказывать еду навынос, а не готовить самим.
Гораздо хуже, когда пользователями таких сервисов будут становиться дети. Родители, которые захотят облегчить им потерю матери или отца, смогут вскоре прибегнуть к помощи таких «ботов мертвецов».
Но мало что указывает на пользу такого подхода с психологической точки зрения, и, напротив, многое говорит о том, что он может нанести значительный ущерб, подменив нормальный процесс оплакивания.
«Никакая служба воссоздания не может доказать, что разрешение детям взаимодействовать с „ботами мертвецов“ приносит пользу или, по крайней мере, не вредит этой уязвимой группе», — предупреждают исследователи.
Чтобы сохранить достоинство умерших, а также психологическое благополучие живых они предлагают набор методов, применение которых может даже потребовать официального регулирования.
Например, необходимо предусмотреть процедуры деликатного «вывода из строя» таких ботов, а их интерактивные возможности должны быть доступны только для взрослых. Кроме того, по их мнению, пользователи должны полностью понимать, как боты работают и какие ограничения имеет любая из этих искусственных систем.
