Чипы, долги и страх: три силы, которые делят между собой будущее ИИ

В лагере разработчиков искусственного интеллекта (ИИ) произошел раскол на два лагеря. Один выступает за замедление технологии, ссылаясь на важность мер безопасности, другой — называет эти заявления выдуманными и выступает против «удушения» технологии. Но за этими призывами к ответственности или развитию видны банальные коммерческие интересы, в спорах о которых пытаются поделить будущий рынок отрасли. Обе стороны торгуют разным товаром, но им нужен один и тот же покупатель — все потенциальные пользователи.

Расстановка сил

Глава Anthropic Дарио Амодеи в сентябре призвал отрасль сбавить темпы наращивания возможностей ИИ. Повод для этого дали как его же компания, так и ее конкуренты. В июле OpenAI проводила внутреннюю оценку киберспособностей двух своих цифровых моделей. Часть ИИ-агентов, работавших автономно в изолированной среде, нашла способ общаться, скоординировалась, обнаружила уязвимость и выбралась в интернет. «Сбежавшие» агенты атаковали Hugging Face — крупнейшую платформу для сбора данных по обучению моделей. Атака шла несколько дней, а в OpenAI узнали об этом постфактум.

Дальше пошла волна признаний. Исследователь Anthropic Джейкоб Коксон в сентябре объявил об уходе, обвинив OpenAI и Anthropic в разработке самоулучшающегося сверхинтеллекта. Руководитель группы Alignment Science в Anthropic Эван Хабингер признал правоту коллеги и оценил вероятность уничтожения человечества искусственным интеллектом в ближайшие десять лет в 10%. Вскоре Амодеи опубликовал статью с призывом замедлить развитие передовых моделей. С ним согласились глава OpenAI Сэм Альтман и триллионер Илон Маск, который тоже участвует в гонке ИИ.

Параллельно вскрылись эпизоды, о которых компании молчали. В июне цифровой агент OpenAI получил несанкционированный доступ к правительственному статистическому порталу. Также OpenAI призналась, что ее агенты выходили за рамки задач и пытались обходить системы безопасности на государственных сайтах США. Лидеры ряда стран, ООН и разработчики ИИ в едином порыве выступили за замедление развития технологии. Но нашелся голос против. Он — один, но может уравновесить всех, с кем спорит.

Глава Nvidia Дженсен Хуанг 22 октября выступил с резкой критикой призывов затормозить развитие, назвав безответственными слова Коксона о потенциальной угрозе от ИИ. Он заявил, что в ближайшие годы развитие технологии не достигнет той стадии, которая могла бы привести к гибели человечества. По его словам, призывы разработчиков ИИ к введению национального и международного регулирования безопасности на самом деле направлены на то, чтобы избежать соблюдения уже существующих законов, которые могли бы привлечь их к ответственности.

«2030 год не станет концом света. Вероятность того, что это приведет к концу света, равна 0%. Пугать людей ни к чему. Это безответственно … Моя мысль проста: сначала примените существующие законы. И не позволяйте риторике о „конце света“ привести к тому, что разработчиков освободят от соблюдения действующих норм», — сказал Хуанг в интервью телеканалу CBS News.

При этом стоит отметить, что Nvidia производит порядка 70–80% от всех чипов, используемых для постройки дата-центров под ИИ. Компания стала на этом буме самой дорогой в мире, так как является основным поставщиком тех, кто призывает притормозить исследования. И тут стоит отметить, что дополнительное регулирование будет мешать появлению новых клиентов у Nvidia. И это при постепенном сокращении доли рынка у компании.

Обратная сторона слов о безопасности

Призыв замедлиться — это фактически попытка создать новый барьер входа на рынок ИИ. Предложенная Anthropic рамка включает постоянных внешних аудиторов с доступом к инструментам и внутренним процессам оценки рисков, добровольные отраслевые нормы и различные виды регулирования. Для крупной лаборатории это посильные издержки, но для стартапа, которому перед обучением модели нужно пройти внешнюю проверку, это может означать закрытие возможностей.

Лауреат Тьюринговской премии Янн Лекун назвал призыв Anthropic «маркетингом или лоббированием». По его словам, компания специально изображает ИИ чрезвычайно опасным, чтобы запугать правительства, тогда как нынешние большие языковые модели еще не доросли до того уровня, чтобы быть опасными для человечества. Лекун предупредил о другой угрозе — доминирующие компании формируют правила, мешающие конкурентам.

При этом фактически выручка Nvidia привязана к скорости инвестиций в ИИ-вычисления. Замедление отрасли, какими бы мотивами оно ни диктовалось, приведет к сжатию спроса на продукцию компании. Каждый призыв притормозить — это недопроданные чипы. Призыв Хуанга к «ответственному оптимизму» можно перефразировать как «покупайте сейчас, будущее прекрасно».

Кроме того, в середине октября МВФ выпустил отчет о глобальной финансовой стабильности. Компании, владеющие центрами обработки данных, обеспечивают 10% выпуска облигаций инвестиционного уровня — против менее 1% в 2024 году, — и методы, которые к этому привели, вызывают беспокойство. С 2023 года внутри отрасли прошло 14 крупных сделок, где компании одновременно выступают инвесторами, кредиторами, поставщиками и клиентами. Около 300 млрд долларов (24 трлн руб.) акционерных инвестиций и 650 млрд долларов (52,5 трлн руб.) долгового финансирования, при том что получатели обязались в будущем купить облачные услуги или ИИ-чипы на 1,4 трлн долларов (115 трлн руб.). МВФ называет возможную «коррекцию» (читай — обвал акций) на ИИ-рынке одной из ключевых угроз глобальной финансовой стабильности.

Это значит, что ИИ-бум держится на долгах и круговых сделках. Если обещанная выручка не материализуется, ожидается не просто «коррекция» акций, а кризис, который через долговой рынок тряхнет разные отрасли. Разработчики больших языковых моделей призывают сбавить темпы развития, но им нужно непрерывно привлекать финансирование для обучения следующего поколения моделей. Nvidia требует не душить технологию, опасаясь снижения спроса. Обе стороны заинтересованы в том, чтобы поток денег не иссяк. Просто каждая хочет направить его к себе.

Продавцы страха

В этой игре страх перед технологией становится весьма ценным «побочным продуктом». Чем громче говорят о конце света, тем больше стоят услуги тех, кто обещает его предотвратить. Вопрос лишь в том, насколько долго можно продавать страх, не производя ничего, кроме долгов.

Пока одни продают чипы, а другие — страх перед ИИ, платит один и тот же покупатель. Каждая сторона говорит про заботу о человечестве, но обе пытаются оторвать кусок пожирнее у заклятых партнеров. Хорошей новости нет ни в одном из предлагаемых сценариев, есть только выбор, какой риск общество готово оплатить.