Общественники Англии считают, что ИИ похож на законспирированную сеть
Использование искусственного интеллекта (ИИ) на государственном уровне ушло так глубоко внутрь системы, что чиновники сами не могут сказать, где именно они используют ИИ, а где — нет, заявил глава Комитета по стандартам публичной сферы Великобритании Джонатан Эванс, 10 февраля сообщает ZDNet.
Эванс, который с 2007 по 2013 годы занимал пост руководителя британской разведки MI5, заявил, что сегодня ИИ применяется повсюду, но понять, имеем ли мы дело с решением машины или человека, стало непросто.
«Я попросил своих исследователей выяснить, где используются алгоритмы в государственном секторе, и они просто не смогли это сделать. Журналисты пытаются это выяснить, но и они редко могут это сделать. Правительство тоже не публикует аудит о степени использования ИИ», — заявил он.
Общественники отмечают, что когда речь заходит о выдаче пособий, принятии решений об аресте подозреваемых или о распределении вышедших из тюрьмы преступников, ИИ может повести себя предвзято.
Эванс напомнил, что в 2017 году полиция уже пыталась использовать компьютерную систему HART (Harm Assessment Risk Tool) для определения желательности ареста подозреваемых. Тогда в систему загрузили данные о 104 тысячах арестованных граждан за последние 5 лет, но общественность назвала систему жестокой.
Другой пример. В том же году Управление по стандартам в области образования начало использовать машинное обучение для оценки школ и определения приоритетности проверок. В результате учителя обвинили ИИ в дискриминации, а экспериментаторы признали, что алгоритмы пока еще недостаточно точны.
Глава комитета подчеркнул, что сегодня неясно, кто несет ответственность за принимаемые ИИ решения.
