Станет ли искусственный интеллект врагом человека?
Современный искусственный интеллект (ИИ), включая огромные языковые модели вроде GPT 4, относится к так называемой слабой или прикладной форме. Такая форма является вариантом гибких алгоритмов, не обладающих собственным сознанием, и направлена на решение узкого спектра задач.
Сильный или универсальный ИИ, как ожидается, будет способен понимать смысл, творить новое и осознавать себя. Множество научных команд бьются над исследованием сильного ИИ. Есть интересные «реверансы» в сторону гибридных электронно-биологических вычислительных средств. В частности, группа исследователей университета Монаша создала вычислительное устройство с электронной основой и 800 тыс. живыми нейронами, выращенными из мозговой ткани мыши и человека. Такое устройство показало очень высокую скорость «обучаемости», но пока явных перспектив не просматривается.
Слабый ИИ, в отличие от гипотетической сильной формы, не способен создавать что-либо принципиально новое, но может обобщать имеющийся опыт. Причем с этой задачей он будет справляться все лучше и лучше. В частности, поскольку на развитие направления брошены огромные исследовательские и инженерные силы.
Сегодня у начинающих программистов периодически возникает вопрос о перспективности профессии, ведь появляются решения на основе ИИ, позволяющие автоматически писать программное обеспечение (ПО) и проектировать аппаратные вычислительные средства.
Подобные модели ИИ пока еще достаточно примитивны, но имеют тенденции к быстрому развитию. В перспективе типовое ПО может быть реализовано почти полностью или полностью с помощью интеллектуальных программных средств. Но основная перспектива даже не в этом, а в форме интеллектуального помощника творца — человека. Если сам человек способен быть творцом нового, конечно.
В этой роли слабый ИИ может постепенно дойти до возможности достаточно быстрой реализации в типовых алгоритмах ПО, идею которого породил и описал человек. Новые атомарные алгоритмы, верификация результата и мысли по развитию ПО все равно останутся за человеком.
Если расширить мысль, то слабый ИИ в принципе способен конструировать на основе обобщенного опыта. По мере развития он все больше будет стремиться к возможности проводника, реализатора идей и конструкций в пространстве Великой библиотеки человеческого опыта.
Свойства обобщения опыта, используемые для обучения ИИ, меняются со временем. На начальном этапе команды людей готовили массивы размеченных однотипных данных для обучения моделей, что ограничивало возможные размеры обучающих выборок и темпы их подготовки. Со временем были созданы и обрели популярность сервисы, в которых вовсе не специальные команды, а пользователи Интернета готовят размеченные обучающие выборки. Это википедия, социальные сети с однотипными реакциями, сетевые магазины, публичные хранилища исходного кода открытого ПО, используемые для автоматических кодогенераторов, и так далее.
Постепенно будет осваиваться и эмоциональный опыт, выраженный во внешних проявлениях. Камеры устанавливаются в населенных пунктах всего мира, их будет становиться только больше, средства первичной обработки и доставки изображения все время развиваются, а глубокое автоматизированное освоение получаемой информации — лишь вопрос времени.
Меняются и технологии. Если классическое представление о слабом ИИ говорит о прикладном, пусть и гибком, алгоритме, позволяющем решать конкретный класс задач, то предлагаются идеи по расширению подхода. В частности, в статье MIT «Искусственный интеллект общего назначения — насколько мы близки и есть ли смысл вообще пытаться?» один из основателей DeepMind исследователь ИИ Шейн Легг предложил ряд шагов, которые позволят сделать ИИ многофункциональным помощником человека, оставаясь все еще слабым ИИ. То, что мы уже практически наблюдаем в случае больших языковых моделей, говорит о постепенном преодолении прикладной узости слабого ИИ.
Несмотря на все достижения и тенденции, речь все еще идет об обобщении имеющихся знаний — более быстром, глубоком, широком.
Если представить, что слабый ИИ в перспективе сможет быстро проектировать и реализовывать новое по первым осколкам идей, то он опередит человека в создании практической новизны, но и будет зависим от человека. Возможно, от человека, искусственно помещаемого в те или иные ситуации, в тех или иных сообществах. Люди в этом случае могут стать средством познания и инструментом экспериментов.
Если, конечно, у такого ИИ или множества различных ИИ — интеллектуализированной техносферы будет цель, зачем все это делать. Сейчас цель задают люди. Часто — группы людей, имеющие необходимые средства, власть, силу, интеллектуальную обслугу.
Мы живем в мире, где доминирует система отношений, не заинтересованная ни в решении глобальных вызовов, ни в развитии массового человека. В такой системе отношений краеугольным камнем является выгодность применения тех или иных средств — экономическая, политическая, социальная. Если комплекс технических средств с широким использованием ИИ плюс относительно небольшой обслуживающий штат финансово и производственно эффективнее и удобнее, чем множество людей, то его и нужно выбирать.
Такое общество также в перспективе будет стремиться к уменьшению преимуществ человека по сравнению с искусственными формами. Как по причинам невыгодности массового человека, так и необходимости контроля общества в условиях постоянного развития возможностей самоуничтожения. Окажут влияние и тенденции к автоматизации управления обществом. Для последнего чем более предсказуем человек, тем лучше. Но тем и меньше его преимущества перед машиной — сужающийся коридор в глухой тупик.
В другом формате отношений, в котором обществу важно постоянное порождение новизны ради каких-то крайне больших и амбициозных целей, слабому ИИ тоже есть место. И место в целом такое же. Отличается цель — снятие все более сложной рутины с людей в целях высвобождения их ресурса под развитие и познание нового. В перспективе обучение у такого сообщества позволит сделать и автомат более развитым, поскольку и само общество способно порождать больше свежих идей, и обучающее информационное пространство разнообразнее, динамичнее.
В таком обществе может оказаться крайне востребованным многофункциональный интеллектуальный помощник, способный помочь человеку дооформить идею, напомнить что-то по обрывкам, провести необходимые измерения, сформировать продукт, сопутствующую документацию, описать решаемую в рамках общих вызовов частную задачу.
