«Крестный отец» ИИ предупредил о его опасности
Известный пионер искусственного интеллекта Джеффри Хинтон уволился с работы в Google, чтобы выразить свою озабоченность по поводу рисков, связанных с генеративным искусственным интеллектом (ИИ), сообщила 1 мая газета The New York Times.
Генеративный ИИ — технология, лежащая в основе популярных чат-ботов, таких как ChatGPT и Google Bard.
Газета сообщает, что доктор Хинтон выразил сожаление по поводу работы всей своей жизни, которая легла в основу систем искусственного интеллекта, используемых крупными технологическими компаниями. Он заявил: «Я утешаю себя обычным оправданием: если бы я этого не сделал, это сделал бы кто-то другой».
Лидеры отрасли считают, что генеративный ИИ может привести к важным достижениям в различных отраслях, включая исследования в области лекарственных препаратов и образование, но растет обеспокоенность по поводу рисков, которые может представлять эта технология.
«Трудно понять, как вы можете помешать плохим парням использовать его для плохих целей», — сказал доктор Хинтон. Он подчеркнул, что генеративный ИИ может способствовать распространению дезинформации, сокращению рабочих мест и даже представлять угрозу человечеству в долгосрочной перспективе.
Хинтон, которого часто называют «крестным отцом ИИ», сделал многолетнюю выдающуюся карьеру в этой области. Его ранние исследования нейронных сетей, которые восходят к 1970-м годам, в конечном итоге привели к новаторской разработке в 2012 году, когда он и его аспиранты в Университете Торонто создали системы, способные расшифровывать и распознавать десятки тысяч фотографий различных объектов. Это достижение проложило путь к передовым инновациям в области искусственного интеллекта, включая чат-боты, такие как ChatGPT и Google Bard.
Однако Хинтон считает, что по мере того, как системы ИИ становятся более мощными, растёт и связанный с ними риск. «Посмотрите, как это было пять лет назад и как сейчас, — сказал он. — Возьмите разницу и распространите ее вперед. Это страшно». Он указывает на усиливающееся соперничество между Google и Microsoft как на причину, по которой невозможно остановить создание и применение потенциально опасных технологий искусственного интеллекта.
Доктора Хинтона больше всего беспокоит возможность того, что Интернет будет переполнен ложной информацией, из-за чего обычному человеку будет сложно отличить правду от вымысла. «Я боюсь, что Интернет будет наводнен фальшивыми фотографиями, видео и текстом, и обычный человек больше не сможет знать, что правда», — пояснил он.
Хинтон также обеспокоен тем, как ИИ повлияет на рынок труда, особенно на должности, требующие повторяющейся работы, такие как помощники юристов, личные помощники и переводчики. «Это избавляет от рутинной работы, — сказал он. И добавил, что внедрение ИИ может привести к исчезновению большего числа профессий.
Хинтон беспокоится о долгосрочной разработке автономного оружия (оружие, которое само охотится за заданной целью) и о том, что ИИ может превзойти человеческий интеллект. «Идея о том, что эта штука действительно может стать умнее людей — в это поверили лишь немногие, — сказал он. — Но большинство людей думали, что это далеко. И я думал, что далеко. Я думал, что это будет через 30–50 лет или даже больше. Очевидно, я больше так не думаю».
