«Конец искусства» — какие аргументы есть против ИИ. Мнение
Последние успехи нейросетей (особенно ChatGPT от компании OpenAI) вызвали дискуссии о будущем целого ряда профессий, многие из которых лежат в области искусства. События развиваются стремительно, а осмысления того, что с собой несут эти успехи — нет или почти нет.
Видео-эссе профессионального художника Стивена Запаты (Steven Zapata) под названием «Конец искусства: аргумент против ИИ, создающих изображения» (The End of Art: An Argument Against Image AIs) было размещено на видеохостинге Youtube 18 октября 2022 года. На текущий момент оно имеет 519 тысяч просмотров, а в комментариях к видео развернулась обширная дискуссия.
Во вступлении художник говорит, что «ИИ-искусство уже здесь», и что к нему надо относиться серьезно. Автор приводит распространенные аргументы в пользу такого искусства, а затем последовательно их оспаривает. Мы не везде согласны с аргументацией автора, но само наличие подобных обсуждений кажется нам очень важным.
ИА Красная Весна предлагает вашему вниманию перевод ключевых моментов из эссе.
Аргумент № 1: «ИИ просто собирает ссылки из интернета так же, как это делают художники»
Возможно вы уже слышали из новостей или из разговоров в сообществах художников о ряде ИИ-инструментов для преобразования текста в изображение — MidJourney, DALL-E, Stable Diffusion, Imagen (и это лишь некоторые из них)? Но вы, возможно, не слышали об их соответствующих наборах данных, которые являются отдельными «продуктами». Эти наборы данных иногда запатентованы, а иногда их лицензия позволяет использовать их в нескольких ИИ-системах.
В качестве примера возьмем очень популярные наборы данных от компании LAION (Large-scale Artificial Intelligence Open Network), которые использовались для обучения текущих версий StableDiffusion и Imagen от компании Google.
Один из этих наборов, LAION 5B, представляет собой коллекцию из 5 миллиардов ссылок на изображения по всему интернету, а также текстовых описаний к ним.
В чем особенность этого каталога? Там есть всё и вся. Там может найтись созданная вами картина или фотография вашего лица. Там были даже найдены медицинские изображения конфиденциального характера. Это из-за того, что эти изображения ищутся и заносятся в каталог без разбора, а их огромное количество превращает его в лабиринт, в котором сложно сориентироваться и разобраться. Огромное число из этих изображений защищено авторским правом, и, я хочу чтобы это было понятно, вы не сможете скопировать и вставить их даже в свой личный блог, не подвергаясь определенному юридическому риску.
Как же так получается, что они могут включать их в свои модели? Все дело в [юридической] структуре этих поставщиков данных. Laion 5b распространяется LAION — немецкой некоммерческой организацией, а сами изображения собираются другой некоммерческой организацией под названием CommonCrawl. В зависимости от того, где они находятся, эти компании, будучи организованными как некоммерческие организации, действующие в исследовательских целях, пользуются юридическими привилегиями и им не грозят обвинения в нарушении авторских прав.
Проблема в том, что эти наборы данных, собранные в соответствии с этими привилегиями, затем попадают в коммерческие продукты, такие как Stable Diffusion (программное обеспечение с открытым исходным кодом от компании CompVis, создающее изображения по текстовым описаниям — Прим. ред.). И угадайте, кто финансировал значительную часть вычислительной мощности для формирования LAION? Правильно, Stability.AI — создатели Stable Diffusion! LAION действительно указан на их сайте рядом с другими продуктами из их пакета. Таким образом, этот, якобы предназначенный для исследований, некоммерческий набор данных с юридическими привилегиями используется коммерческой компанией в своем флагманском продукте. Эта компания в настоящее время оценивается в миллиард долларов. Это представляется прямым нарушением духа научных исследований, которые дают такие привилегии. Это быстро становится обычной практикой в области ИИ, когда сложная сеть из коммерческих и некоммерческих компаний затрудняет определение источника совершения правонарушения. Цель здесь — избежать подотчетности и юридической ответственности путем хитроумного «отмывания» данных, которое, как они утверждают, является законным, но все мы ясно видим, что это не так.
Другим примером подобной модели уклонения от ответственности является OpenAI, разработавшая ИИ DALL-E. Она состоит из коммерческой корпорации OpenAI LP и ее материнской компании, некоммерческой OpenAI Inc.
Так что нет, ИИ не собирают ссылки из интернета так же, как это делают художники, и они используют их так, как вам — обычному человеку — не позволено.
Аргумент № 2. «ИИ — это просто новый инструмент»
Этот аргумент рождается от недостатка воображения — как художник вы, конечно, должны бы быть обескуражены этим. Художественные ИИ-программы могут быть инструментом сейчас, в их самом раннем состоянии, но думать, что они будут продолжать в том же духе, требует сознательного невежества в отношении инструмента, который вы используете, а также в отношении среды, формирующейся вокруг него. Они создаются не для того, чтобы быть инструментами для художников — они призваны заменить художников. И они рекламируют себя в качестве таковых. Просто вчитайтесь в язык, который они используют, чтобы продать их вам — вот несколько цитат из релиза Stable Diffusion для исследователей: «Stable Diffusion — это модель преобразования текста в изображение, которая позволит миллиардам людей создавать потрясающие произведения искусства за считанные секунды». Или вот еще: «На этой странице вы можете увидеть некоторые удивительные результаты, созданные этой моделью без какой-либо дополнительной обработки».
Обратите внимание на язык — они не хотят такого будущего, в котором вам нужно будет дополнительно улучшать эти изображения после их создания, они не заинтересованы в том, чтобы оставить какую-либо задачу для художника — они хотят, чтобы вы были полностью исключены из процесса создания искусства, даже если ИИ был обучен на ваших произведениях искусства.
Достигнут ли они на самом деле этой цели — создания ИИ, не нуждающегося во вмешательстве художника, — почти не имеет значения, потому что они будут широко рекламировать как будто они уже достигли этой цели. И это полностью изменит оптику вокруг искусства для всего человечества. Они вложат миллионы, чтобы прорекламировать простому человеку, что потрясающие изображения, видео, что угодно — делаются одним нажатием кнопки. Тем не менее я считаю, что они, вероятно, достигнут этого. Многое из того, что выдают эти системы сейчас, в их самых ранних версиях, уже превосходит «достаточно хороший» уровень. Вам не придется долго дорабатывать, улучшать или править композицию этим изображениям.
Обычное возражение на аргументацию, подобную той, что выше, таково: даже если изображения не нуждаются в исправлении, кто-то все равно должен будет писать текстовые команды или выбирать лучшее из результатов работы ИИ. Если ваше воображение подвело вас ранее и делает это снова, вам должно быть вдвойне стыдно. Будущее этих ИИ не предполагает, что люди будут сидеть и вводить в них текстовые команды для генерации картинок. Мечта получить работу в качестве ИИ-прорицателя, который путем любовных уговоров извлекает из машины самый красивый образ, недальновидна. ИИ так же хорош в генерации текста, как и в генерации изображений. Торопясь с вводом текстовых команд, вы не заметили, что обучаете следующую часть ИИ — ту, которая знает совокупный вкус миллионов самых разборчивых людей в мире. Об этом ясно сигнализируют такие программы, как MidJourney, которые постоянно и публично архивируют каждый созданный ими фрагмент, включая использованные текстовые команды. Когда вы вводите команду, вы тем самым вкладываете свою душу в новый набор данных для ИИ.
Когда объем данных достигнет критической точки, уже не нужно будет указывать ИИ, что ему делать. Эти системы (возможно их бесчисленные варианты) будут работать на автопилоте.
Было бы удачей для нас, если бы это коснулось только рынка коммерческого искусства, но повальная девальвация и замалчивание искусства, скорее всего, затронет каждый сектор — коммерческий, любительский, высокое художественное искусство (fine arts), всё. Я думаю об этой сверхновой посредственного нечеловеческого выхлопа как об [информационном] «Мега-Потоке» («Mega-Feed») — абсурдной версии сравнительно слабых [информационных] потоков (feeds), с которыми мы знакомы сегодня.
В итоге окажется, что это вы были «всего лишь инструментом». Вас использовали для того, чтобы научить ИИ, какое из его творений является лучшим. Что вы и делаете каждый раз, когда кликаете на понравившийся результат среди множества гротескных вариантов.
Этот контраргумент также является моим ответом на обвинения в том, что я и подобные мне являются «луддитами», которые просто боятся новых технологий, в то время как мы должны воспринимать их как инструменты. Нелепо называть такого человека, как я, луддитом. Я никогда не сопротивлялся инструментам. Всю свою карьеру я с радостью пробовал каждый новый появлявшийся настоящий инструмент (далее автор рассказывает о своем обширном опыте использования цифровых инструментов для создания картин — Прим. ред.).
Некоторые вещи являются инструментами, а некоторые — заменой [людям], и просто крича «инструмент» снова и снова, вы не измените природу этой вещи.
Аргумент № 3. «Художникам просто нужно будет сосредоточиться на том, чтобы рассказывать истории через видеоигры, анимацию и комиксы»
Я уже упоминал о самой большой проблеме с этим аргументом — ИИ будут весьма эффективно работать на автопилоте. Они станут так же хороши в рассказывании историй, как в создании изображений и видео. Они будут создавать романы, эссе и сценарии в количествах, способных заполнить гигантскую библиотеку, каждый элемент которой будет состоять из полуцитат и фрагментов без указания авторства. Весь этот автоматически генерируемый текст может быть затем обработан ИИ, создающими изображения и видео, для формирования полноформатных медиа (длинные статьи, книги, фильмы — Прим. ред.). И этот цикл будет полным, самодостаточным и свободным от человека.
Компании, конечно же, ухватятся за такую систему, поскольку она прогнозируема, последовательна и лишена трудно предсказуемого человеческого фактора и переменчивых настроений человека-художника. Они будут производить бесконечный поток всех мыслимых фильмов, телепередач, игр, новостных сюжетов и изображений, а также все их возможные комбинации.
Сфера повествований будет полностью затоплена — в будущем мы обнаружим, что она вся будет почти целиком состоять из историй, написанных машинами. Аниме, о создании которого вы мечтали с 8 лет и ради которого вы готовы отказаться от всего остального искусства, в этих условиях получит заслуженное внимание — никакого. И когда проект вашей мечты, мгновенно сгенерированный ИИ, не получит ни внимания, ни влияния, ни денег, вы будете спокойно отдыхать, зная, что вы это заслужили. Даже ваша мать не сможет найти его в бесконечном [информационном] «Мега-Потоке». Это не являлось бы проблемой само по себе — вы все равно никогда не собирались реализовывать ваш проект — за исключением того, что вы разрушите индустрию для всех, кто может сделать что-то своими силами. Вы ничего не выиграете и к тому же навредите своим друзьям и коллегам.
Идея о том, что каждый получит возможность рассказать свою историю, — один из немногих аргументов в пользу ИИ-искусства, который меня привлекает. Здесь можно обсудить множество нюансов, но я считаю, что в конечном итоге и этот аргумент несостоятелен. Он делается с хорошим посылом, и я могу сопереживать разочарованию художника, который чувствует, что его навыки не соответствуют масштабу его видения, но мы упускаем из виду нечто очень важное. Вы не просто хотите рассказать свою историю, и не просто хотите рассказать ее хорошо — вы хотите, чтобы [людям] было важно, что вы рассказали свою историю. ИИ лишит вас и всех остальных этой возможности.
Осуществление с помощью ИИ вашего капризного «видения» гарантирует, что никому не будет дела до вашей истории, и она будет поглощена морем отбросов, созданных ИИ. Ваше творчество уже не привлекает внимания. Оно не получит большего внимания, если будет конкурировать с бесконечным потоком самосгенерированных и заточенных на узкую целевую аудиторию комиксов, романов, картин, фильмов, игр и песен.
Итак, вы сможете рассказать свою историю, но ценой ее полной неактуальности, что скорее всего заставит вас возмутиться тому, что у вас вообще возникла подобная идея. Истории не достигают своего невероятного эффекта просто сами по себе. Они живут и умирают благодаря человеческим связям и человеческому разуму. ИИ не «демократизирует искусство» — это всего лишь одна из банальностей, которые скармливают вам с ложечки бездарные маркетологи и которая приближает вашу же незавидную судьбу. В демократическом обществе ваш голос имеет значение. В мире, наводненном ИИ-медиа, у вашего голоса нет шансов быть услышанным.
Я также хочу отметить, что люди, создающие эти вещи, будут зависеть от вас, думая, что они держат ключ к вашему художественному видению. Им нужно, чтобы вы чувствовали себя никчемными и считали, что упустили свой шанс рассказать свою историю. Что вы слишком стары, или у вас нет времени, или ресурсов, или способностей, или чего бы то ни было еще; тем самым вы будете нуждаться в их продукте. Так вы поддержите их материально и, что самое главное, поможете им изменить законы и изменить культуру, чтобы позволить им хищнически присваивать себе результаты всего творческого труда. Они всегда будут заинтересованы в том, чтобы вы чувствовали себя ничтожными, зависимыми, неспособными и рабами их монструозных капризов (kaiju whims).
Аргумент № 4. «Эти компании не могут манипулировать нашим доступом к этим системам благодаря таким проектам с открытым исходным кодом как Stable Diffusion. Я могу запустить его на своем персональном компьютере!»
Будет возникать много компаний, занимающихся разработкой ИИ. Одни будут прибыльными, другие обанкротятся. Часть из них будет с открытым исходным кодом, а код других будет строго охраняться. Будет возникать большое количество вариантов монетизации результатов работы и использования ИИ. То, что исходный код для текущей версии Stable Diffusion находится в открытом доступе, не означает, что Stability.AI или подобные компании не изменят свою тактику в будущем. Я также хочу отметить, что версия Stable Diffusion, которую вы можете загрузить и запустить на своем компьютере, ограничена текущим набором данных. Вы можете иметь некоторый контроль над ее параметрами, но переобучение модели на обновленном наборе данных потребует больших затрат времени и средств. Потребовались существенные вычислительные мощности, чтобы обучить текущую версию Stable Diffusion. И если вы хотите идти в ногу с этими технологиями, вам придется либо выделить огромные ресурсы на ее переобучение, либо сдаться этим компаниям — чего они, конечно, и добиваются.
Кроме того, очень наивно полагать, что такая коммерческая компания как Stability.AI, стремящаяся к оценке в 1 миллиард долларов, и, вероятно, желающая избрать в свой совет директоров состоятельных инвесторов с менеджером хедж-фонда в качестве генерального директора, будет хоть как-то мотивирована к тому, чтобы бесконечно и бесплатно предоставлять вам вашу любимую игрушку. А если они все-таки продолжат предлагать бесплатные версии, то в конечном итоге эти версии станут такими же как Facebook (организация, деятельность которой запрещена в РФ), Twitter, Instagram (организация, деятельность которой запрещена в РФ) и т. д., с проталкиванием своей дурной повестки и с искажением информации о том, что происходит в мире (что мы уже наблюдали).
Аргумент № 5. «Разве люди не используют элементы чужого творчества также, как и ИИ?»
Во-первых, предположим, что ответ «да» — то, как ИИ используют элементы чужого творчества аналогично тому, как это делают люди. Однако, возникает вопрос — зачем предоставлять привилегии в этом деле бесчувственным машинам, а не людям? Ради Бога, это же создание произведений искусства, а не какая-то раздражающая ручная работа, которую ненавидят! Это одна из тех вещей, которые люди любят делать. Любой человек с гуманистическим мировоззрением увидит, что поскольку намерение и желаемый результат одинаковы, мы должны оставить занятие искусством для тех, кто может что-то получить от него, кому оно может принести радость и вознаграждение, а не тупо дарить его бесчувственной машине, которая не может наслаждаться плодами своих трудов.
Во-вторых, нет, люди не делают то же самое с элементами чужого творчества. Разница в том, что машины могут копировать один к одному. Конечно, люди тоже смотрят на образцы чужого творчества, собирают их, комбинируют, трансформируют, а иногда делают всё возможное, чтобы полностью скопировать их, но в подавляющем большинстве случаев они не могут воспроизвести их в точности.
У ИИ же таких ограничений нет. ИИ может идеально воспроизвести любой эффект с помощью цифрового копирования, запоминания и подгонки, если он достаточно обучен этому. ИИ может добиться идеального воровства в массовом масштабе.
Кроме того, человека облагораживают его попытки повторить и скопировать чью-либо работу — по крайней мере, когда он делает это вручную, а не в цифре. В силу механики ручного исполнения, человек, делая многократные попытки копирования, совершенствуется как художник. Выполнение адекватной копии работы мастера совершенно не под силу начинающему художнику и, по иронии судьбы, это требует честного мастерства. На самом деле, и это трудно понять, если вы не занимались совершенствованием своего ремесла в течение очень долгого времени, если вам удалось хорошо скопировать Вермеера — вы это заслужили.
Аргумент № 6: «ИИ никогда не сможет заменить душу художника, он никогда не сможет рождать уникальные идеи так, как это может делать человек!»
Мне кажется, что когда мы думаем о «видении художника» в таких выражениях, то возвышаем его до несвойственного ему положения. Такой аргумент, похоже, предполагает, что наши творческие идеи подобны божественным проявлениям, они ничем не искажены и рождены в результате счастливой случайности. В действительности же наши идеи — это сложные реакции (как сознательные, так и нет) на бесчисленные обуславливающие факторы, которые формируют нашу жизнь. Не стоит забывать, что ИИ в конечном итоге будут реагировать на многие из тех же факторов, что и люди. Они всегда будут следить за пульсом работы интернета в реальном времени, за ключевыми, модными словами и трендовыми темами.
И они будут оценивать всё это одновременно на уровне «больших данных» и на целевом индивидуальном уровне: ваши конкретные интересы, привычки, предпочтения и даже психическое состояние и физическое здоровье. Мы уже предоставляем эту информацию корпорациям во впечатляющих подробностях. ИИ будут досконально знать вас, и это будет включать ваше художественное видение. Даже если большая часть из того, что они создают будет безвкусным, посредственным или непонятным, цифры будут на их стороне, а не на нашей. Огромный объем производимой ими продукции гарантирует, что где-то среди нее есть то, что вас не может не привлечь, то, что вы могли бы придумать сами, будь у вас те же преимущества, что и у ИИ.
И если оценивать нынешнее качество продукции, выдаваемой ИИ, то это качество вовсе не такое уж посредственное, как кому-то, возможно, хотелось бы. Даже я, [ как профессиональный художник ], иногда прихожу в замешательство от высокого уровня некоторых из этих работ. Это, опять же, говорит о многом, учитывая, что эти системы находятся пока в зачаточном состоянии.
Заключение
Системы ИИ будут продолжать бросать нам вызов. Не только в сфере искусства, но и во всех сферах жизни — они будут заявлять о себе как в цифровом, так и в физическом пространстве, и будут выполнять все виды творческой и рутинной работы, обычно возлагаемой на человека. Где бы они ни появились и за какую работу бы ни взялись, прежде чем отдать свои задачи на откуп ИИ, спросите себя: не отказываюсь ли я от работы, которая мне нравится?
Действительно ли у нас есть веские причины позволить им командовать хобби или работой, которая мотивирует и приносит радость вместо рутинной и делающей нас несчастными? Или мы просто выдумываем причины не брать на себя бремя самозащиты, что так типично для деятелей искусства?
Мы не должны позволить разработчикам ИИ, используя все их скрытые методы, ослаблять нас до тех пор, пока мы не будем окончательно вытеснены. Мы должны дать отпор — иначе мы создадим опасный прецедент для всех будущих ИИ-систем.
Люди, которые в значительной степени заинтересованы в защите позитивного мнения общества об этих системах, будут обвинять нас в луддизме, неприспособленности и в преувеличении последствий их неправомерных действий. Но не позволяйте им убаюкать вас этим бессодержательным напевом, всегда помните, что они — не художники, и это не их работы находятся в наборах данных. Они хотят контролировать эмоциональную обстановку вокруг всего этого, изображая вас визгливыми и жалобными, а себя — спокойными, умными и прогрессивными.
Я настоятельно рекомендую вам больше изучить то, как работают эти системы, и как компании, которые их производят, контролируют повестку.
