Эксперт по ИИ Рассел предостерег от уничтожения человечества
Об экзистенциальных опасностях искусственного интеллекта предупредил британский ученый-компьютерщик Стюарт Рассел, сообщает 7 июня ИА DTS.
Он заявил, что человечество находится в процессе потери контроля над технологиями. Рассел занимается исследованиями систем искусственного интеллекта в течение 50 лет и считается одним из родоначальников этой технологии.
«Человечество находится в плохом положении. Все тесты бьют тревогу, воют сирены. И мы просто игнорируем это. Это безумие», — сказал Рассел. Даже сегодня разработчики ИИ в Силиконовой долине не знают, каковы цели их суперсистем и как они планируют их достичь.
«Мы не знаем, что они „думают“. Мы даже не понимаем, как именно они работают», — сказал он. По его словам, как только появятся системы, которые будут по существу более способными, чем люди, «у нас, людей, больше не будет права голоса».
Конечно, как только человечество почувствует, что теряет контроль, оно попытается отключить ИИ.
«Вопрос в том, оставят ли машины нас по-прежнему. Если они поймут, что мы хотим их закрыть, у них будут все основания предотвратить это. Они должны уничтожить нас. Так что, если мы продолжим развивать суперинтеллект, не адаптируя его к нашим интересам, не понимая его, не имея гарантий безопасности, то я думаю, что очень вероятно, что мы потеряем контроль», — добавил он.
По словам Рассела, который проводит исследования в Элитном университете Беркли в Калифорнии и является одним из самых авторитетных экспертов в области искусственного интеллекта в мире, компьютеры, вероятно, в какой-то момент смогут предвидеть конфликт с человечеством.
Как только это произойдет, «они будут воспроизводить себя разными способами, копировать миллионы раз». По его словам, один только доступ в Интернет дает им больше влияния на поведение людей, чем когда-либо имел Адольф Гитлер.
«Гитлер мог говорить только в один микрофон одновременно, посылая только одно сообщение за раз. Тем не менее, он поднял массы. Эти системы могут наводнить Интернет, вести пять миллиардов разговоров одновременно, влиять на пять миллиардов отдельных людей. То, что сделал Гитлер, могло бы сделать ИИ быстрее, лучше, эффективнее», — сказал эксперт.
Более миллиона роботов, которые уже используются по всему миру сегодня, также получат доступ к физическому миру с помощью такого супер ИИ. По словам Рассела, он может проникнуть в полуавтономные системы вооружения или контролировать биолаборатории. Но, по его словам, еще не поздно предотвратить это. Для этого необходимо как можно скорее законодательное регулирование технологий.
Единственной целью ИИ, по словам Рассела, должно являеться «продвижение человеческих интересов». По его мнению, на то, чтобы установить подобное, «может легко потребоваться десятилетие». Вот почему нужен мораторий на развитие технологий.
По словам эксперта, человек «в некотором смысле должен нажать на „паузу“ и работать над безопасностью». Это единственный шанс для человечества обезопасить свое существование. «В долгосрочной перспективе есть только три варианта будущего: безопасный ИИ, без ИИ или без людей», — заключил он.
