Глава топовой ИТ-компании оценил опасность от «бунта машин»

Страхи, вызванные развитием искусственного интеллекта (ИИ) оценил как необоснованные глава компании «Ашманов и партнеры» Игорь Ашманов 29 октября в интервью изданию «Бизнес-On-line».

По мнению Ашманова, ИИ только имитирует мышление, и самостоятельные решения, основанные на смыслах, не принимает. Боевой робот, оснащенный искусственным интеллектом, не может из каких-то внутренних соображений сменить сторону, за которую он воюет, или начать воевать против человечества в целом.

«Ну и перехват управления беспилотным танком или истребителем боевыми хакерами со стороны противника тоже возможен. Это гораздо большая опасность, чем бунт машины», — заявил в связи с этим эксперт.

Эксперт пояснил как устроен современный искусственный интеллект. Это вычислительная система, которая выполняет миллиарды операций, чтобы учесть миллионы входных параметров для принятия какого-либо решения. При этом разработчики ИИ не могут представить, как каждый конкретный параметр влияет на процесс выбора системы из-за огромного числа и параметров и логических цепочек в алгоритмах.

Система может принять неожиданное решение. Но эта неожиданность вызвана не внутренней волей машины, а ее сложностью и методом ее настройки. Ашманов сравнил эту сложность со сложностью любой другой техники. «Но вы, когда в свою машину садитесь, порой тоже не знаете, почему она не заводится, просто потому, что сейчас техника — это в принципе очень сложная штука», — пояснил он. Он также отметил, что есть тенденция к увеличению сложности в любой сфере человеческой деятельности.