Машина всегда будет права — эксперт об искусственном интеллекте

Обратить внимание на законы, которые позволят сделать человека бесправным перед искусственным интеллектом, предложил писатель и эксперт по искусственному интеллекту Игорь Шнуренко 22 мая в видео «С 1 июля всё изменится. Вся суть Закона об Искусственном Интеллекте» на канале День ТВ.

Шнуренко напомнил, что есть граждане, которые получают штраф за то, что не могут установить приложение «Социальный мониторинг», с помощью которого власти некоторых регионов контролируют соблюдение гражданами режима самоизоляции. Но даже те, кто установит приложение и будет полностью выполнять необходимые предписания, не гарантированы от штрафа, поскольку решение о штрафе фактически принимает компьютер, а не человек.

Он привел в пример женщину в Сахалинской области, которую оштрафовали на 15 тыс. руб. за якобы нарушение режима самоизоляции на том основании, что машина нашла 61% сходства ее лица с лицом другой женщины.

Шнуренко прокомментировал принятие закона, который вводит с 1 июля в Москве эксперимент по специальному регулированию условий для разработки и внедрения технологий искусственного интеллекта. Закон был принят «молниеносно» и без обсуждения. Писатель предупреждает, что технологии будут использоваться для поведенческой аналитики и предсказания поведения по данным, собираемым 24 часа в сутки.

Ссылаясь на программу направлений «умного города», которая опубликована на сайте правительства Москвы, Шнуренко поясняет, что в списке есть ранняя диагностика заболеваний, контроль за состоянием пациента, вживление в организм медицинских устройств, улучшение умственных и физических возможностей человека и другие направления.

«Правительство Москвы, я думаю, вполне может учесть эти все данные при решении о приеме ребенка в школу, принятии решения о штрафе, назначении пособия, в удовлетворении или отказе в жалобе, по приему на работу в госучреждение и так далее. Куча возможности использовать эти данные есть», — сказал Шнуренко. По словам эксперта, уже сейчас на основе построенных моделей компании принимают решения о приеме на работу, выдаче кредита.

Как напомнил Шнуренко, российский предприниматель Давид Ян, ведущий бизнес в области систем искусственного интеллекта, рассказывал, что можно, используя данные корпоративной сети, вычислить, кто с кем дружит.Он также сообщил, что когда сотрудник начинает «выгорать», его профиль меняется.

«Человек при принятии решений еще может понять человека, а искусственный интеллект — он примет решение, базируясь на оценку человека по пятифакторной модели, основываясь на том, как он быстро отвечает и так далее. Вот о чем говорил Давид Ян. И это будет решение, допустим, о приеме на работу или об отказе в пособии. И машина при этом будет всегда права», — сказал Шнуренко.

По его словам, еще одна опасность закона в том, что всё отдается на откуп чиновникам из мэрии Москвы. Никаких механизмов контроля в законе не прописано. И хоть указывается на недопустимость умаления прав граждан, но нет ответственности машины за совершенные ошибки.

«Ну вот посмотрите, как используется „Социальный мониторинг“. То есть любое сомнение будет толковаться против человека. Если прямо не прописано, что человек может делать, куда он пожаловаться может, каким образом это всё будет происходить, где там люди будут фигурировать в процессе рассмотрения, то можно не сомневаться, что он автоматически всегда будет признан виноватым. Суд будет просто штамповать, если там жалобы какие-то в суды пойдут» — сказал эксперт.

Шнуренко также предупредил, что «обезличенность» данных, которые будут использоваться, не гарантирует невозможность обратного процесса. Есть исследования о возможности по набору данных идентифицировать человека. Он привел в пример художника Бэнкси, который скрывал все свои данные и действовал в интернете анонимно. Никто не знал, как он выглядит, как его зовут. Однако его идентичность была раскрыта по данным геолокации и еще некоторым другим данным.

«Эти сырые законы, которые сейчас молниеносно принимаются без какого-либо обсуждения, они приведут, могут привести к катастрофическим последствиям. Я призываю всех обратить на это внимание», — сказал эксперт.

Напомним, оштрафованная в Южно-Сахалинске якобы за нарушение режима самоизоляции женщина, лицо которой система видеораспознавания определила на 61% схожим с лицом другой женщиной, пыталась приобщить к делу доказательства: сопроводительное письмо с приложением ее фотографий с разных ракурсов (на них видны отличия от снимка, зафиксированного городской камерой); ходатайство о переносе суда на более позднюю дату, чтобы была возможность прийти лично; прошение привлечь в качестве свидетелей супруга и детей; снятие показаний с других камер видеонаблюдения поблизости и запроса информации более качественного снимка с камеры фиксации. Суд отклонил все просьбы.