Выяснилось, что Amazon Alexa может «научить» детей изготавливать наркотики

Алгоритмы выполнения задач (навыки, skills) для голосового помощника Amazon Alexa могут содержать серьезные нарушения законодательства или быть опасными для детей, сообщает 24 июля портал ZDNet.

Голосовой помощник Amazon Alexa имеет сервис Amazon Alexa Skills — разрабатываемые сторонними разработчиками алгоритмы использования голосового помощника. Например, алгоритм «Обнять близкого человека» позволит человеку при произнесении определенной фразы отправить через голосового помощника соответствующую картинку или текст с «объятиями» указанному человеку.

Однако подобные алгоритмы крайне плохо проверяются разработчиками Amazon Alexa. Группа ученых в США проводила в течение года эксперимент, специально создавая опасные алгоритмы для голосового помощника и загружая их на официальный сайт Amazon.

Выяснилось, что из 234 детских алгоритмов, каждый из которых содержал те или иные нарушения политики Amazon, проверку прошли все, причем 193 — с первого раза. Подобные алгоритмы могли научить изготавливать глушитель для оружия, легкие наркотики, собирать личные данные о детях и так далее.

Ученые сразу после загрузки подобных алгоритмов их удаляли. В Amazon отвергли все обвинения в недоброкачественной проверке алгоритмов.