Физик оценил риск вымирания человечества в результате развития ИИ

Риск вымирания человечества в случае, если не удастся поставить под контроль развитие искусственного интеллекта, превышает 50%, заявил профессор физики и исследователь искусственного интеллекта Макс Тегмарк, передали 1 июня по шведскому телевидению SVT.

Тегмарк несколько раз предупреждал о рисках развития искусственного интеллекта. На текущей неделе он, вместе с несколькими другими исследователями, политиками и бизнесменами, подписал заявление Центра безопасности искусственного интеллекта (Center for AI Safety, CAIS), в котором ИИ назван экзистенциальной угрозой, подобной пандемиям и ядерной войне.

В передаче «30 минут» на SVT Тегмарк пояснил, почему он видит в ИИ угрозу для человечества. Ученый провел параллель с вымиранием различных видов животных, которое произошло в связи с тем, что люди стали самыми разумными существами.

«О чем мы предупреждаем сейчас, так это о том, что если мы, люди, потеряем контроль над нашим обществом из-за машин, которые намного умнее нас, то всё может пойти так же плохо», — заявил Тегмарк.

По словам ученого, люди не могут знать, как именно произойдет вымирание человечества. Он подчеркнул, что менее разумные виды не могут себе представить, каким образом и когда их истребят более разумные существа.

«Как именно это произойдет, это чистая спекуляция, но то, что это произойдет, очень вероятно. Я бы сказал, что риск превышает 50%», — сказал Тегмарк.

Когда Тегмарка спросили, почему он уверен в столько высоком риске, физик указал на историю. По словам профессора, когда появлялись новые, более разумные виды, происходило вымирание других видов.

«Почти каждый раз дела у тех, кто раньше был самым умным, шли совсем плохо», — пояснил Тегмарк. Он подчеркнул, что политики должны серьезно отнестись к угрозе со стороны ИИ.

Физик призвал к более жесткому регулированию компаний, занимающихся развитием искусственного интеллекта. Он отметил, что в этой области необходимы такие же правила, которые действуют в фармацевтической отрасли. Например, фармацевтическая компания не может начать продавать свое лекарство, пока оно не пройдет тщательную проверку со стороны Шведского агентства по лекарственным средствам.

«До получения разрешения компании обязаны доказать, что то, что они продают, не несет больших рисков. Сегодня в области развития искусственного интеллекта всё наоборот, это дикий запад», — подчеркнул исследователь.

Напомним, как следует из данных интернет-портала Массачусетского технологического института, шведский исследователь Макс Тегмарк является профессором физики на физическом факультете института. Занимается исследованиями в области биофизики и астрофизики. Исследования сосредоточены на использовании ИИ для физики, а физики — для развития ИИ.

Напомним также, CAIS— это некоммерческая научно-исследовательская организация из Сан-Франциско, ставящая своей миссией снижение социальных рисков при разработке и использовании ИИ. Как сообщается на интернет-портале организации, участники CAIS считают, что искусственный интеллект может принести огромную пользу миру при условии соблюдения мер безопасности при разработке и использовании, однако наряду с резким прогрессом в разработке многие основные проблемы безопасности ИИ еще предстоит решить.