Ученый описал «экзистенциальную угрозу» ИИ для человечества
Искусственный интеллект вполне может привести к вымиранию человечества в течение следующих трех десятилетий, заявил британско-канадский ученый-компьютерщик, профессор Джеффри Хинтон, которого часто называют «крестным отцом» искусственного интеллекта, 27 декабря пишет The Guardian.
Хинтон, который в этом году был удостоен Нобелевской премии по физике за свою работу в области ИИ, сказал, что существует «10%-20%» вероятность того, что ИИ приведет к вымиранию человечества в течение следующих трех десятилетий. Ранее он говорил, что существует 10%-ная вероятность того, что технология вызовет катастрофические последствия для человечества.
«Видите ли, нам никогда раньше не приходилось иметь дело с вещами более разумными, чем мы сами, — заметил ученый. — А сколько примеров вы знаете, когда более разумное существо контролируется менее разумным существом? Примеров очень мало. Есть мать и ребенок. Эволюция приложила много усилий, чтобы позволить ребенку контролировать мать, но это, пожалуй, единственный пример, который я знаю».
По словам Хинтона, люди будут подобны маленьким детям по сравнению с интеллектом мощных систем ИИ. «Мне нравится думать об этом так: представьте себя и трехлетнего ребенка. Мы будем трехлетками», — сказал он.
В прошлом году Хинтон ушел с работы в Google, после чего начал открыто говорить о рисках, связанных с неограниченной разработкой ИИ, ссылаясь на то, что «плохие парни» будут использовать технологию, чтобы навредить другим. Базовый аргумент состоит в том, что создание общего искусственного интеллекта или систем, которые будут умнее людей, может привести к тому, что технология выйдет из-под контроля человека и начнет представлять для него экзистенциальную угрозу.
Размышляя о том, чего, по его мнению, достигнет развитие ИИ, Хинтон сказал: «Я не думал, что оно будет там, где мы [находимся] сейчас». «Ситуация, в которой мы сейчас находимся, заключается в том, что большинство экспертов в этой области думают, что когда-нибудь, в течение, вероятно, следующих 20 лет, мы разработаем ИИ, которые будут умнее людей. И это очень страшная мысль», — подчеркнул он.
Хинтон сказал, что темпы разработки были «очень, очень быстрыми, намного быстрее, чем я ожидал», и призвал к государственному регулированию технологии.
«Я беспокоюсь, что невидимая рука не будет обеспечивать нашу безопасность. Поэтому просто оставить это на усмотрение крупных компаний, стремящихся к прибыли, будет недостаточно, чтобы убедиться, что они разрабатывают это безопасно, — сказал он. — Единственное, что может заставить эти крупные компании проводить больше исследований в области безопасности, — это государственное регулирование».
