ИИ может эволюционировать в «терминатора» — исследователь
Развивающийся по законам естественного отбора искусственный интеллект (ИИ) может эволюционировать в «терминатора», заявил директор Центра безопасности SAI и исследователь ИИ Дэн Хендрикс 4 апреля в своей статье «Естественный отбор предпочитает ИИ людям»
В своей статье Хендрикс исследует, как «эволюция была движущей силой развития жизни» на протяжении миллиардов лет. После этого он утверждает, что «дарвиновская логика» может также применяться к ИИ.
Эволюция ИИ по пути дарвинского естественного отбора может породить «эгоистичное поведение» ИИ, если он обретает стремление выжить, утверждает автор статьи.
Эгоистичный ИИ может начаь доминировать над человечеством и представлять «катастрофические» риски, предупреждает отчет.
«Мы утверждаем, что естественный отбор создает стимулы для агентов ИИ действовать против человеческих интересов», — пишет Хендрикс.
Конкуренция между корпорациями, военными и правительствами стимулирует организации создавать наиболее эффективные программы ИИ с заниженными моральными ограничениями, чтобы получать преимущества в конкурентной борьбе.
«Конкурентное давление между корпорациями и военными ведет к появлению агентов ИИ, которые автоматизируют человеческие роли, обманывают других и получают власть. Если такие агенты обладают интеллектом, превосходящим человеческий, это может привести к тому, что человечество потеряет контроль над своим будущим», — написал он.
Согласно исследованию, ИИ с ослабленными моральными ограничениями в целом превзойдет тех, у кого усилены такие ограничения, поскольку у них больше возможностей для решения стоящих перед ними задач. Таким образом, технология ИИ, которая наиболее эффективна в самораспространении, будет обладать «нежелательными чертами».
«По мере того, как агенты ИИ начинают понимать человеческую психологию и поведение, они могут обрести способность манипулировать или обманывать людей», — сказано в статье. При этом, подчеркивается, что «самые успешные агенты будут манипулировать и обманывать, чтобы достичь своих целей».
«В долгосрочной перспективе может реализоваться динамика выживания наиболее приспособленных. ИИ вполне может превзойти людей и стать тем, кто выживет», — подытоживает исследование.
Отчет Хендрикса опубликован на фоне тревоги, которую бьют по всему миру технические эксперты, о том, насколько быстро искусственный интеллект набирает силу.
Серьезные опасения по поводу ИИ были высказаны только в марте 2023 года, когда тысячи технических экспертов, профессоров колледжей и других обеспокоенных людей подписали открытое письмо с призывом приостановить исследования ИИ в лабораториях, чтобы политики и специалисты успели «разработать и внедрить набор общих протоколов безопасности для продвинутого дизайна ИИ».
На прошлой неделе Италия стала первой страной в мире, запретившей чрезвычайно популярный ChatGPT, работающий на основе искусственного интеллекта.
