«Алиса» Яндекса перепутала номер экс-мэра Твери с телефоном администрации
Голосовой помощник компании Яндекс «Алиса» на запрос телефона администрации города Конаково несколько месяцев выдавал личный номер телефона бывшего мэра Твери, заявил экс-мэр Твери Валерий Павлов 14 мая на своей странице в Facebook.
Павлов утверждает, что звонить ему начали 3-4 месяца назад. Люди были уверены, что звонят в администрацию Конаково. При этом по ходу разговора объясняли, что этот номер они получили через голосового помощника. Примерно месяц назад, после того как в городе был введен пропускной режим, количество звонков резко возросло.
«Мой телефон разрывался от звонков возмущенных граждан с требованиями выдать пропуск или пропустить в город! Звонки были и днем и ночью! Каждый день раздается от 15 до 28 звонков! На мои объяснения, что это личный телефон, возмущение звонивших только возрастало», — написал на своей странице Павлов.
Павлов обратился к оператору «Алисы» с просьбой решить эту проблему, но на его запрос ничего не ответили. Многие звонящие просили дать им пропуск на въезд в Конаково. В какой-то момент он начал отвечать: «проезжайте спокойно и сошлитесь на этот телефонный номер». После этого несколько человек перезвонили и поблагодарили за помощь, из чего бывший мэр Твери сделал вывод, что его разрешения оказалось достаточно, чтобы люди смогли успешно попасть в город.
17 мая в комментариях к своему сообщению Валерий Павлов написал, что проблема была решена.
Сам факт работы мониторинговой машины-консультанта указывает, что интернет стал информационным полем, на котором машины начинают управлять людьми. Нельзя не отметить тревожного факта, что при этом в работу машины может закрасться ошибка, от которой пострадают люди.
Перед нами пример применения искуственного интелекта (ИИ), проводящего в интернете мониторинг информации по заданным параметрам.
Важно, что при этом ИИ взял информацию из источника, содержащего ошибку и затем, путем автоматического введения людей в заблуждение, многократно увеличил деструктивные последствия этой ошибки.
Таким образом не лишним будет задуматься — насколько безопасны современные технологии автоматизации. В каких сферах, где и на каких условиях допустима автоматизация, кто будет отвечать за последствия работы машин? А самое главное — кто контролирует машины, которые постепенно берут под контроль сферы жизнедеятельности людей?
До того, как будут получены вразумительные ответы на подобные вопросы, передавать управление общественными процессами в неживые «руки» машин весьма опрометчиво.
