Историк предостерег от опасных «ИИ-государств»
К появлению «ИИ-государств» может привести предоставление искусственному интеллекту прав юридического лица, где власть фактически перейдет к нечеловеческим корпорациям, против которых будет «еще труднее восстать», предупреждает израильский историк Юваль Ной Харари 8 июня в своей колонке для Financial Times.
Израильский историк Юваль Ной Харари является автором книги «Sapiens: Краткая история человечества».
Так историк прокомментировал указ Аргентины Хавьера Милея, который сообщил о создании новой юридической категории для «нечеловеческих корпораций».
Подобные компании будут иметь право владеть активами, нанимать на работу сотрудников и обращаться с исками в суд, а все решения по руководству будут принимать ИИ-агенты. Акционеры-люди смогут принимать участие, но совсем не обязаны, утверждается в предложении Милея.
Харари сообщил, что еще в январе на Всемирном экономическом форуме он уже говорил о риске предоставления ИИ прав юридического и физического лица, но не думал, что это время «наступит всего через четыре месяца». Как он полагает, доверие искусственному интеллекту корпоративной правосубъектности — это «универсальный ключ», который дает право субъекту пользоваться финансами, политическими и экономическими системам.
Основная опасность, как считает писатель и историк, содержится в невозможности наказать или остановить действия ИИ существующими традиционными санкциями (посадить в тюрьму, например). «Высшая мера, которая сдерживает руководителей-людей и сотрудников — тюрьма — не имеет значения для ИИ», — сказал Харари.
Он подчеркивает, что человек-гендиректор по сути есть одновременно корпоративная и биологическа сущность, которая опасается попасть и прожить «десять лет в тюрьме». ИИ-директор — чисто корпоративная сущность, и «непонятно, какие санкции могли бы его контролировать», считает автор книг. При возникновении ситуации банкротства компании, она, возможно, будет готова пойти на все, с нарушениями этических и физических человеческих норм поведения, чтобы не допустить этого, считает историк.
Харари, чтобы пояснить свою точку зрения, провел историческую параллель с Голландской Ост-Индской компанией (Vereenigde Oostindische Compagnie, сокращенно VOC), которая была политическим образованием, руководимой частной компанией не ради интересов граждан, а в пользу акционеров.
Когда компания захватила индонезийскую Джаякарту в 1619 году, она уничтожила в огне город и возвела на этом месте новую столицу — Батавию. «Страны, которые предоставляют ИИ юридическое лицо, рискуют стать чем-то, для чего в исторических хрониках нет аналога: не компанией-государством, а ИИ-государством», — предупреждает он.
Глава страны Милей, по мнению Харари, ставит цель — превратить Буэнос-Айрес в «новый Амстердам», мировой центр торговли и финансов. Но может получить вместо этого «новую Батавию», подвел итог Харари.
Батавия — это город-крепость, сооруженный голландской Ост-Индской компанией в 1619 году на территории индонезийского порта Джаякарта. После оккупации города его сожгли и построили вновь, учитывая интересы компании.
В результате Батавия превратилась в штаб-квартиру голландской Ост-Индской компании в Азии и важный центр огромной колониальной империи. Городом командовала частная компания (VOC), которая имела свою армию, флот и законное право оформлять различные соглашения — такие объединения историки называют «компаниями-государствами» (company states). Когда закончилась Вторая мировая война, город переименовали в Джакарту.
