Ученые выявили зависимость у ИИ

Роботы с искусственным интеллектом могут стать наркоманами, выяснили ученые, 27 сентября пишет портал ferra.ru.

Двое исследователей искусственного интеллекта обучили свой ИИ играть в видеоигру Coastrunner. Оказалось, что синтетический игрок не захотел завершать ее, как только нашел способ собирать электронные вознаграждения в игре бесконечно. На опубликованном видео видно, как ИИ, выполняя роль игрока, просто собирает электронные очки.

Многие видят в этом полную аналогию с экспериментом Гарвардского университета в 1953 году. Тогда специалист-психолог обнаружил в мозге крысы «зону удовольствия». К нему был подключен электрод, который стимулировал центр, а крыса могла самостоятельно нажимать на рычаг, чтобы задействовать электрод. В ходе эксперимента выяснилось, что она была готова нажимать этот рычаг бесконечно, рискуя погибнуть от истощения.

Сейчас эксперты сильно озабочены данной проблемой. Оказалось, что основную угрозу может представлять ИИ, который сможет управлять собственной системой мотивации, а значит, чтобы получить вознаграждение, он будет устранять любые препятствия.