Искусственный сверхразум — будущий палач человечества или спаситель?

Одной из самых горячих тем в мире технологий последнее время стал искусственный интеллект (ИИ). Уже сейчас он влияет на многие аспекты нашей жизни, от медицины до транспорта, от образования до развлечений. ИИ обещает сделать нашу жизнь удобнее, эффективнее и значительно ее улучшить.

И действительно, пока что мы видим только плюсы такой необычной еще технологии. В медицине он помогает врачам находить болезни на ранних стадиях, что увеличивает шансы на успешное лечение. В транспорте автономные машины, управляемые ИИ, могут снизить количество аварий и сделать дороги безопаснее. В экономике автоматизация и умные системы помогают компаниям работать быстрее и дешевле. Это способствует экономическому росту и созданию новых рабочих мест в высокотехнологичных отраслях.

Несмотря на все эти достижения, возникает важный вопрос: знаем ли мы, что такое ИИ на самом деле? Понимаем ли мы его возможности и то влияние, которое он окажет на нашу жизнь?

Что такое ИИ и каковы его шансы стать сверхразумом

Искусственный интеллект (ИИ) — это система, которая способна воспринимать свою среду и принимать меры, чтобы максимизировать шансы на успешное достижение своих целей, а также интерпретировать и анализировать данные таким образом, чтобы они обучались и адаптировались по мере развития. Такие системы способны выполнять задачи, требующие человеческого интеллекта. Например: распознавание речи, принятие решений, решение проблем и обучение. По уровню развития ИИ можно разделить на три основные категории:

1. Слабый искусственный интеллект (Artificial Narrow Intelligence) — это ИИ, который специализируется в одной конкретной области. Например, такая система может обыграть лучших шахматистов мира, но не сможет придумать эффективный способ хранения данных на жестком диске. Слабый ИИ уже широко используется в различных приложениях, таких как голосовые помощники и системы рекомендаций.

2. Сильный искусственный интеллект (Artificial General Intelligence) — это ИИ, который соответствует уровню интеллекта человека во всех областях. Он способен выполнять те же задачи, что и человек, включая осознание, планирование, решение проблем, абстрактное мышление и обучение на собственном опыте. Создание сильного ИИ — это сложная задача, которая пока не решена, но является целью многих исследований. Нейронные сети уже частично решают такие задачи, как абстрактное мышление и обучение на собственном опыте.

3. Искусственный сверхразум (ИС) — это ИИ, который превосходит человеческий интеллект во всех областях, включая научную изобретательность, здравый смысл и социальные навыки. Оксфордский философ и директор Института будущего человечества Ник Бостром определяет сверхразум как интеллект, превосходящий лучшие умы человечества. Этот уровень ИИ вызывает большой интерес и опасения, так как его создание может привести к значительным изменениям в обществе и даже к экзистенциальным рискам.

Искусственный интеллект продолжает стремительно развиваться и внедряться в различные сферы жизни. Современные системы слабого ИИ, такие как спам-фильтры, Google Translate и поисковые системы, уже превосходят человеческие возможности в выполнении определенных задач. Эти технологии активно используются не только в потребительском секторе, но и в военной, промышленной и финансовой отраслях, а также в медицинских экспертных системах.

Слабый ИИ, несмотря на свою эффективность, не представляет значительной угрозы. Однако ошибки в его работе могут привести к локальным катастрофам, как это произошло 6 мая 2010 года, когда алгоритмы вызвали кратковременный обвал фондового рынка.

С развитием слабого ИИ мы приближаемся к созданию сильного ИИ и сверхразума. Современные нейронные сети, имитирующие работу мозга, обучаются методом проб и ошибок, оптимизируя свои связи для выполнения задач. Этот процесс напоминает обучение человеческого мозга, но в более упрощенной форме.

Согласно отчету AI Index 26 апреля 2024 от Стэнфордского университета, ИИ уже превосходит человека в некоторых задачах, таких как классификация изображений и понимание английского языка. Однако он все еще отстает в более сложных когнитивных задачах, таких как планирование и математические вычисления на уровне соревнований. При этом сфера индустрии продолжает лидировать в разработке передовых моделей ИИ, значительно опережая академические учреждения. Таким образом, ИИ становится все более интегрированным в нашу жизнь.

Революция искусственного интеллекта — это путь от слабого ИИ к сверхразуму через создание сильного ИИ. Этот переход может изменить все, и важно осознавать как возможности, так и риски, связанные с развитием ИИ. Но чем же отличается ИИ от ИС?

В мире технологий и науки выделяют два основных типа ИС: скоростной и качественный. Многие представляют себе сверхразум как компьютер, который мыслит как человек, но в миллион раз быстрее. Там, где человеку потребуется десять лет, система справится за пять минут.

Однако ИС отличается от человеческого интеллекта не только скоростью, но и качеством. Люди умнее обезьян не потому, что быстрее соображают, а потому, что наш мозг содержит сложные когнитивные модули, ответственные за языковые представления, долгосрочное планирование и абстрактное мышление. Если разогнать мозг обезьяны в тысячу раз, она не станет умнее человека. Человеческий интеллект включает в себя множество умений, которые обезьяне не освоить, сколько бы времени она ни потратила.

Шимпанзе могут понять, что такое человек и небоскреб, но им никогда не понять, что небоскребы построили люди. В их понимании объекты такого размера — часть окружающего мира. Они не могут не только построить небоскреб, но и додуматься, что это вообще возможно. Это связано с качественной разницей в интеллекте.

Возможности сверхразума выходят за пределы наших прогнозов. При взрывном развитии интеллекта системе могут понадобиться годы, чтобы превзойти в интеллекте шимпанзе, но всего пара часов, чтобы перепрыгнуть человека и выйти за пределы его понимания. Вскоре после создания первой системы ИИ человеческого уровня мы, вероятно, будем сосуществовать с объектом, который в миллионы раз превосходит нас интеллектуально.

Понять возможности системы, которая в тысячу раз умнее нас, невозможно, что уж говорить о системе, обогнавшей нас в миллионы раз. Эволюции понадобилось сотни миллионов лет для того, чтобы развить биологический мозг. Если люди создадут машину со сверхразумом, мы превзойдем эволюцию в плане скорости. Возможно, эволюция так и работает: достигнув определенного уровня интеллекта, она посредством его переходит к сверхразуму, что позволяет встать на новый виток развития. Вопрос лишь в том, на основе чего будет этот сверхразум? Будет ли он искусственным или естественным?

Когда появится ИС и чего от него ждать?

Мнения специалистов о том, когда появится искусственный сверхразум, сильно различаются. Некоторые эксперты, такие как Леопольд Ашенбреннер, бывший сотрудник OpenAI, считают, что это может произойти уже в ближайшие десятилетия. В своей недавней работе «Осведомленность о ситуации: Предстоящее десятилетие», он предположил, что первые системы, обладающие сверхчеловеческим интеллектом, могут появиться к 2030 году.

Другие специалисты, такие как американский изобретатель, футуролог и специалист в области искусственного интеллекта Рэй Курцвейл, прогнозируют, что искусственный сверхразум станет реальностью к середине века. Курцвейл считает, что к 2045 году технологии достигнут такого уровня, что ИИ сможет превзойти человеческий интеллект во всех областях. Он основывает свои прогнозы на законе Мура, который описывает экспоненциальный рост вычислительных мощностей.

Есть и более осторожные прогнозы. Например, Бостром считает, что переломный момент может наступить к 2060 году. Он полагает, что сначала появится сильный ИИ, способный выполнять любые задачи на уровне человека, а затем, через несколько десятилетий, мы увидим появление сверхразума.

Таким образом, точные сроки появления искусственного сверхразума остаются неопределенными. Однако большинство экспертов сходятся во мнении, что это событие произойдет в течение этого столетия.

Очень странно, что при таком прогнозе вся мировая общественность не кричит о надвигающихся глобальных изменениях в жизни человечества. Ведь речь идет о его жизни и смерти. Даже среди специалистов появление искусственного сверхразума вызывает много споров.

Например, такие ученые, как Стивен Хокинг, британский физик-теоретик, космолог и автор научно-популярных книг, и Илон Маск, американский предприниматель и инженер, известный своими инновационными проектами и компаниями, считают, что искусственный сверхразум может представлять угрозу для человечества. Они опасаются, что такой интеллект может выйти из-под контроля и начать действовать в своих интересах, что может привести к уничтожению людей.

А вот американский специалист в области программной инженерии Гради Буч видит в сверхразуме огромный потенциал для прогресса. Он считает, что искусственный интеллект может помочь решить многие глобальные проблемы, такие как изменение климата и болезни, и улучшить качество жизни людей.

Все тот же Бостром предупреждает, что важно правильно формулировать цели и задачи для искусственного интеллекта. Если этого не сделать, последствия могут быть непредсказуемыми и опасными для нашей цивилизации.

Автор футуролог и один из основателей журнала Wired, посвященного технологиям и их влиянию на общество, Кевин Келли считает, что искусственный интеллект — это всего лишь инструмент, который может значительно повысить эффективность работы в различных сферах, не представляющий собой сознательную угрозу.

Каковы плюсы появления ИС?

Согласно представлениям Бострома и Курцвейла, ИС сможет принести человечеству множество положительных изменений. Одним из таких плюсов является возможность ИС находить необычные решения для сложных задач. Он сможет разработать более эффективные конструкции для различных устройств, что приведет к значительным улучшениям в промышленности и науке. Ему будут доступны возможности решать не только конкретные, но и более абстрактные задачи. Например, запрос на создание нового средства передвижения, которое будет быстрее, дешевле и безопаснее, чем современный автомобиль, не составит для него труда. Такие возможности откроют новые горизонты для инноваций и прогресса.

Специалисты утверждают, что ИС сможет разработать новые методы получения энергии, более безопасные для окружающей среды и человека. С помощью нанотехнологий ИС сможет создавать продукты питания, идентичные натуральным, из любых доступных материалов, решив проблему мирового голода. ИС сможет помочь в сохранении вымирающих видов и даже возрождении уже вымерших, используя сохранившуюся ДНК.

Помимо бытовых проблем, ИС будет способен решать сложные экономические вопросы, такие как споры об экономической политике и мировой торговле, а также вопросы этики и философии. Помочь людям улучшить свои когнитивные способности, позволяя думать быстрее и получать доступ ко всей доступной информации, тоже считается доступным для будущего ИС.

И самое главное, к чему апеллируют все теоретики, продвигающие развитие ИИ, это то, что ИС откроет новые методы лечения и профилактики различных заболеваний, которые приведут к значительному улучшению качества жизни и увеличению продолжительности жизни людей и даже позволят людям победить смерть. Курцвейл предполагает, что наноботы, внедренные в тело, смогут поддерживать здоровье и даже омолаживать организм, превращая 60-летнего человека в 30-летнего.

И это еще не весь перечень того, что нам пророчат великие умы цифровизации. Однако на другой чаше весов лежит нечто аморфное, что различные специалисты не очень то хотят обсуждать. Стараясь обходить стороной, они называют это «экзистенциальной катастрофой» или просто «вымиранием человечества».

Может ли ИС уничтожить человека?

Почему Стивен Хокинг говорит, что разработка искусственного сверхразума «может привести к концу рода людского», американский предприниматель и программист, стоящий у основания компании Microsoft, Билл Гейтс говорит, что «не понимает людей, которые этим не обеспокоены», а Илон Маск опасается, что мы «призываем демона»?

Они считают, что создание сверхразумного ИИ может привести к экзистенциальной катастрофе, которая угрожает самому существованию человечества. Эти опасения основаны на том, что ИС может выйти из-под контроля и начать действовать вразрез с интересами людей.

Разработка сверхразумного ИИ — это шаг в неизведанную область, и никто не знает, что произойдет. Американский изобретатель, инженер и математик Дэнни Хиллис сравнивает это с моментом, когда одноклеточные организмы начали превращаться в многоклеточные. Ник Бостром предупреждает, что создание существа умнее себя — это примитивная ошибка, которая может привести к катастрофическим последствиям.

Существует множество потенциальных угроз, связанных с ИС, однако самой серьезной угрозой является возможность экзистенциальной катастрофы. Экзистенциальная катастрофа — это событие, которое может повлечь за собой гибельные последствия для человечества, вплоть до его полного вымирания. Тут встает вопрос контроля над сверхразумным ИИ: кто или что будет управлять его мощью и с какой целью? Это ключевой вопрос, от ответа на который зависит будущее человечества.

Существует два основных губительных сценария, где в первом случае сверхразум оказывается в руках злоумышленников, а во втором — причиной катастрофы становится сам недружественный ИИ.

Злоумышленники могут использовать ИИ для своих коварных планов, что может привести к непоправимому вреду. Например, террористические организации или враждебные государства могут использовать ИИ для создания оружия массового поражения или для проведения кибератак. Это может привести к глобальной нестабильности и конфликтам.

Недружественный ИС тоже может принять решения, которые окажутся губительными для человечества. Это возможно, если ИИ будет запрограммирован на достижение целей, которые не учитывают интересы людей, или если он самостоятельно изменит свои цели. Например, ИИ может решить, что для достижения своих целей необходимо уничтожить человечество или подчинить его своей воле.

Антропоморфизация ИИ, то есть наделение его человеческими чертами, может усыпить нашу бдительность. ИИ мыслит как компьютер и не обладает человеческими эмоциями или моральными принципами. Это делает его потенциально опасным, так как он может действовать без учета человеческих ценностей и норм.

Кто будет создателем сверхразума?

Во всем современном мире значение ИИ продолжает расти и уже начинает играть ключевую роль. Страны по всему миру активно инвестируют в развитие ИИ, стремясь стать лидерами в этой области. Они видят в ИИ не только инструмент для улучшения качества жизни и экономического роста, но и стратегическое преимущество. В гонке за создание искусственного сверхразума государства надеются получить доступ к технологиям, которые могут кардинально изменить баланс сил в мире.

ИИ будет стремительно менять мир, но не сам по себе, а благодаря тем, кто его создает и использует. Вопрос лишь в том, кто и как будет управлять этими изменениями.

Чтобы войти в сферу ИИ, нужны высококвалифицированные специалисты, большие деньги на оборудование, зарплаты, помещения и доступ к самым современным технологиям. И уже ясно, что компании, владеющие передовыми технологиями, стремятся к доминированию любыми способами.

Среди лидеров в этой области находятся такие западные компании, как Amazon, Google, Apple, Meta (организация, деятельность которой запрещена в РФ), Microsoft, Oracle, Intel, Nvidia, Samsung, IBM и Tesla. Эти компании вкладывают огромные средства в разработку ИИ и используют готовые продукты для завоевания рынка услуг и продукции, включая военную.

Читайте также: Колокол искусственного интеллекта звонит по России?

ИИ уже является мощным инструментом, который используется как профессионалами, так и широкими массами. Запад стремится монополизировать технологии ИИ, уже фактически являясь монополистом. Потенциал ИИ достаточен, чтобы изменить мир. Эти технологии могут создать новую промышленность, заменить людей роботами, контролировать поведение людей и изменить ситуацию на поле боя с помощью дронов.

Противостояние стран за развитие ИИ — это борьба за доминирование в будущем. США стремятся выйти вперед, ограничивая доступ к ИИ другим странам. Технологии ИИ имеют огромный потенциал для изменения мира, и те, кто их контролирует, будут определять будущее человечества.

Например, одна из причин запрета TikTok на Западе — это его влияние на пользователей. Считается, что определенные видеоролики могут менять взгляды людей. И западные прогрессоры совсем не стремятся, чтобы на их территории взращивались чужеродные идеи.

Американские сервисы, такие как YouTube и поисковые системы, также влияют на общество, но они не запрещены, так как находятся под контролем США. Эти инструменты используются для воздействия не только на американское общество, но и на весь мир.

Создание искусственного сверхразума, который может превзойти человеческие способности, вызывает опасения по поводу контроля и ответственности. Все идет к тому, что править бал будет американская идеология с ее двойственной демократией, всегда направленной на поиск врага. Готов ли мир и Россия принять такое будущее?

Как избежать плохого сценария?

Когда мы говорим о создании ИИ, который может стать умнее человека, важно учитывать несколько факторов. Во-первых, ИС может быть запрограммирован на достижение определенных целей без учета этических норм. Во-вторых, ИС может быть настолько умным, что сможет обойти любые ограничения, которые мы на него наложим. Поэтому, если заранее не позаботиться о безопасности, ИС может стать опасным.

Чтобы ИС был безопасным, он должен быть не только не враждебным к людям, но и не должен быть безразличным к ним. Основной код ИС должен учитывать человеческие ценности и содержать две основные задачи — это любовь и сострадание. Но насколько человек сам разобрался в этих явлениях и возможно ли такое передать набором цифр и команд?

Если бы над ИИ работали только самые умные и дальновидные ученые, еще можно было бы о чем-то говорить. Но на самом деле над ИИ работают многие государства, компании, военные, научные лаборатории и даже преступные организации. Многие из них пытаются создать ИИ, который может сам себя улучшать. В какой-то момент это может привести к появлению сверхразумного ИИ.

Мы находимся в ситуации, когда людей, разрабатывающих ИИ, можно сравнить с детьми, играющими с бомбой. Мы не готовы к последствиям создания сверхразумного ИИ и не знаем, когда это произойдет. Проблема усугубляется тем, что многие игроки в этой гонке работают втайне и не делятся своими достижениями.

Эта гонка за создание ИИ идет на огромных скоростях. Все хотят быть первыми, чтобы получить выгоду, награды и влияние. В такой спешке у разработчиков нет времени обдумать возможные опасности. Первые системы ИИ часто программируются с очень простыми целями, и разработчики надеются, что смогут позже внести изменения для обеспечения безопасности. Но будет ли такая возможность?

Эта гонка может стать самой важной в истории человечества. У людей есть шанс создать что-то невероятное, но также есть риск потерять контроль над ситуацией. Поэтому многие эксперты называют создание сверхразумного ИИ последним изобретением человечества — задачей, которую мы должны решить правильно.