Как Гёте предвидел кошмар искусственного интеллекта

Немецкая газета Die Welt опубликовала статью с цитатами из работы Иоганна Вольфганга фон Гёте «Искусство и ремесло», которую он не решился опубликовать при жизни. Можно сказать, что в своем сочинении великий немецкий поэт и писатель удивительным образом предвидел направление развития человеческой цивилизации в условиях начавшейся в его время индустриализации и механизации труда.

Уже тогда он указал на те опасности, которые подстерегают человека на этом пути. На фоне последних успехов развития нейросетей и искусственного интеллекта предостережения Гёте стали еще более актуальными.

Предлагаем вашему вниманию полный текст статьи издания в переводе ИА Красная Весна.

Как Гёте предвидел кошмар искусственного интеллекта

Что знал Гете о компьютерах, алгоритмах, искусственном интеллекте? Разумеется, ничего. Но его дар связывать воедино наблюдения, внутренние прозрения и свой жизненный опыт позволил ему предугадать, как будет идти развитие промышленности — от самого раннего этапа до того, свидетелями чему мы становимся только сегодня.

В числе прозрений Гёте есть идея о «фабрике живописи», которая была бы способна дешево, быстро и почти неотличимо от человека воспроизвести «любую картину с помощью абсолютно механических операций» — процесс, которому можно было бы обучить «любого ребенка». Искусство как машинный продукт и изделие массового производства — таково было кошмарное видение, навеянное поэту в эпоху зарождения промышленной революции.

Гёте написал свое эссе в 1797 году — и так и не опубликовал его. Первый паровой двигатель был построен в 1765 году, первый механический ткацкий станок — в 1784 году, всего за 13 лет до того, как Гёте написал это сочинение. С их появлением уже начавшийся процесс быстрой механизации труда обрел самостоятельную жизнь. 48-летний писатель предвидел, что роль искусства и художника коренным образом изменится в процессе, который продвигался «с неостановимой силой». Первоначально он озаглавил свое эссе «Искусство и промышленность». Тот факт, что позже он исправил название и выбрал формулировку «Искусство и ремесло», доказывает, что эта тема занимала его не мимолетно, а постоянно. Она затрагивала корни всего искусства.

Гёте обвинял «усиленно продвигаемую механизацию, утонченное ремесло и фабричную систему» в том, что произведение искусства может «радовать только до тех пор, пока оно ново». «Искусство, — пессимистично заявлял он, — таким образом готовится к своему полному краху». Нивелируется «внутренняя, вечно непреходящая ценность», присущая произведениям «подлинного художника». То, что производит «просто механический художник», может иметь лишь низшую ценность: «Его тысячная работа похожа на первую, и она также существует тысячу раз в конечном итоге». Даже при самой лучшей работе это придает творениям нового века «нечто незначительное и безразличное». Если хотя бы это верно, то с искусством можно распрощаться.

Возможно, именно покорное настроение эссе, в остальном довольно чуждое Гёте, побудило поэта оставить эссе в ящике стола. Не случайно оно напоминает кошмарные ассоциации, связанные с последними разработками в области искусственного интеллекта. Однако Гёте не мучили теории заговора. Он с беспристрастным вниманием взвесил, что неизбежно последует за «переоценкой всех ценностей» (о чем было сказано десятилетия спустя). На первый взгляд, его анализ относился только к искусству: идеал искусства, существовавший с античных времен, был релятивизирован. Но следствием этого стало изменение понятия времени, которое неотделимо от человеческих творений.

Со времен греков ценность произведения искусства никогда не была ограничена во времени. Каждая эпоха была одинаково близка к высшему художественному идеалу и одинаково предана ему. Не дата создания произведения, а его совершенство было мерилом его значимости. 70 лет назад искусствовед Гюнтер Бандманн в двух словах сформулировал эту многовековую концепцию искусства: «Человек получает легитимацию из прошлого, из идеи божественного государства, явленного в плане спасения (…) Он не играет с идеей выйти из этого здания универсализма, основанного в прошлом. (…) Приверженность старому — это не бессознательное и неспособное к продолжению дело, а выражение специфического этоса, направленного на утверждение плана спасения. Новизна — это клеймо».

Модерн, возникший с Просвещением и промышленной революцией, порвал с этой концепцией. Зацикленность на новейшем продукте, последней версии, уже не позволяет достичь наивысшего совершенства, потому что его превосходит каждый новый продукт. Идеал заключается в новизне, а не в замысле спасения и совершенства.

Произведение искусства лишается своей священной ауры. Ценность новизны превращает его в предмет моды, творение «последнего крика», объект товарной линии, на смену которому приходят всё новые, всё более «современные», всё более совершенные произведения и товарные линии. Идеал высшего совершенства заменяется концепцией качества, знаком одобрения которого является ценность новизны, а не «вечная непреходящая ценность», которую подчеркивал Гёте. И Гёте распознает более глубокую причину этого переворота: «машинерия», которая продвигается вперед «с неостановимой силой».

Поэт использует слова ныне забытого философа Карла Генриха Гейденрейха (1764-1801), который был широко читаем в то время. Этот ученый и поэт, который в раннем возрасте стал жертвой алкоголизма и наркомании, опубликовал в 1790 году «Систему эстетики» и ввел различие между «механическими» и «прекрасными» искусствами, отнеся первые к чисто физическим, а вторые — к «духовным потребностям». Это различие живет и сегодня — оно фиксирует разделение между функционализмом и конструктивизмом с одной стороны, и «художественным» творчеством — с другой.

При этом архитектуре на первый взгляд отводилось не лучшее место. Гейденрейх причислял ее к механическим искусствам, но тем не менее, считал ее искусством, «весьма способным к украшению». Она тоже могла получить статус «изящного искусства», но только через «поэтическое представление высшего назначения здания в более прекрасных архитектурных формах, в ощущении которых полностью исчезают все чисто физические соображения».

Пессимизм Гёте

Эссе Гёте 1797 года не располагало к такому оптимизму. Скорее, Гёте предсказывал, что «машины и фабрики будут доведены до высшей степени» и «наводнят весь мир красивыми, изысканными, приятными эфемерными вещами посредством торговли». Именно здесь возникает его образ «великой фабрики живописи», которая заменит работу «настоящего художника» «полностью механическими операциями» — предсказание, имеющее поразительную актуальность.

То, что Гёте продемонстрировал на примере «чисто механического художника», имело, как он уже тогда признавал, неотъемлемое значение не только для искусства как такового, но и для всего мира труда. В более поздние годы, в «Вильгельме Мейстере», Гёте вернулся к этой теме и попытался применить ее к социальному целому. «Как мало теперь можно утихомирить паровые машины, так мало это возможно и в морали: бодрость торговли, стремительное распространение бумажных денег, разбухание долгов для уплаты долгов — все это чудовищные элементы, на которые в настоящее время настроен молодой человек». Наконец, «трудолюбивые руки постепенно окажутся под угрозой бездеятельности» — перспектива, о которой все громче говорят в связи с искусственным интеллектом.

Гёте — свидетель современности, распознавший в технологических изменениях потенциальную угрозу классической системе ценностей в то время, когда новая система едва утвердилась. Это машина, которая буквально вращает большое колесо, которая выплевывает деньги, создавая массовый товар, массовый продукт (точно так же, как сегодня мы наблюдаем, что самая развитая машина — Интернет — разрослась до гигантских размеров, стала монстром по производству денег, соря миллиардами).

Поворот от XVIII к XIX веку предстает как тот исторический момент, когда всё более уверенная в себе интеллигенция осознает угрозу, исходящую от приближающейся «всей массы механического» (Гёте), и видит себя призванной спасти свидетельства «истинного искусства».

Если, по словам Фридриха Шиллера, эта эпоха выбрала тривиальную полезность в качестве своего «великого идола», в качестве авторитета, «которому должны возрадоваться все силы и воздать почести все таланты», то необходимо было разработать новую концепцию искусства, которая говорила бы о «необходимости духовного, а не о необходимости материи».

То, что постулировалось здесь для искусства, предвосхищает то, что требуется сегодня для работы с ИИ. Как человек может противостоять машине? «Необходимость материи» заставляет нас быть постоянно эффективными и инновационными, потому что в производственном процессе, который всё больше становится социальным процессом, может выжить только самая новая, самая передовая, самая эффективная машина. «Необходимость духовного» с трудом поспевает за этим темпом. Когда сейчас специалисты требуют «паузы» в развитии ИИ, они требуют это потому, что машина (как они сами лучше знают) не может ее (необходимость духовного) обеспечить.

Германист Клаус-Михаэль Богдал проследил как мысли, высказанные Гёте в эссе «Необходимость материи», через 100 лет сгустились для писателей в образ, в котором машина противостоит человеку как сверхчеловеческое существо. В романе Конрада Альберти 1888 года машина превращается в чудовище, которое уже обладает всеми характеристиками искусственного интеллекта: «Увы, она напоминала гигантского киклопа с крошечными, искалеченными органами чувств: с глазом, который, выпятившись на жестком стержне, был способен смотреть только в одном направлении и не замечал, что происходит справа, а что — слева; с мозгом, не способным различать, что есть добро, а что — зло, что истинно, а что ложно; с конечностями, которые подчинялись только нервным стимулам и привычному рефлексу извне, а не свободному, самоопределяющемуся мышлению собственного мозга». Богдал имеет в виду восприятие в нем «чувственной телесной энергии», которая «направляет свое желание на более слабого, простого человека, чтобы усвоить его силу и уничтожить его». Подобные образы повторяются в дебатах о благословении и проклятии искусственного интеллекта.

Гёте, очевидно, не видел смысла в попытках остановить прогресс мысли, публикуя свои рефлексии о «машине». Он не скрывал от себя, что «целое движется вперед с неостановимой силой». В своем противостоянии с революцией в естественных науках, произведенной Исааком Ньютоном, и с механистическим мировоззрением французского философа эпохи Просвещения Ла Меттри «человек — это машина», он, тем не менее, твердо придерживался идеи «духовного порядка», пронизывающего все творение. Как отметил недавно британский германист Джереми Адлер, в основе работы немецкого мыслителя лежал страх перед «дегуманизирующими опасностями математической физики» — взгляд, который можно напрямую увязать с сегодняшним скептицизмом по отношению к ИИ со стороны ведущих ученых.

Указание Гёте на разницу между дегуманизирующей математической физикой и наукой, разработанной с учетом человеческого индивида как органического существа (защитником которой он себя считал), сохранит свою актуальность до тех пор, пока наука, основанная на человеке, не станет эффективнее и лучше в условиях Индустрии 4.0*. И наоборот, это означает, что ИИ возьмет верх, когда он будет работать быстрее, точнее и эффективнее человека — независимо от того, есть ли за ним сознание или нет. Компьютеры принимают решения не по чувствам, а по логике, целесообразности и эффективности. Чем более искренне человечество подчиняется этим критериям, тем сильнее оно мутирует в машину. Необходимость духовного может утверждать себя только до тех пор, пока она торжествует над абсолютной необходимостью материи.

*Индустрия 4.0 — термин, введенный в 2015 году руководителем ВЭФ Клаусом Швабом, для описания изменений в промышленности при дальнейшем развитии технологии редактирования генома, ИИ, и продвинутой робототехники.