Эксперты назвали главный недостаток ИИ для решения кризисных ситуаций

Вопрос об использовании ИИ в области принятия решений о ядерном нападении натолкнулся на непреодолимые препятствия в ходе публичных дебатов между экспертами по системам военного управления, 24 января сообщает Breaking Defense.

Помимо проблемы недостатка данных для обучения ИИ вопросам реагирования в ситуации ядерного нападения, эксперт Пол Шарре, бывший глава рабочей группы Пентагона по разработке политики автономности в системах вооружений, обозначил вторую и, быть может, еще более важную проблему.

История использования ИИ в гражданских и военных областях, включая автомобилестроение и авиацию, говорит о его слабой устойчивости в кризисных ситуациях и неспособности к адаптации.

Особое коварство ИИ кроется в возможность того, что система раннего оповещения о ядерном нападении под управлением ИИ будет безупречно работать в условиях мирного времени, но в условиях кризиса сойдет с ума или начнет галлюцинировать, как ChatGPT, когда кризис поставит ее условия, которых она никогда раньше не видела.

Вдобавок люди, скорее всего, потеряют бдительность под действием ложной уверенности в том, что они могут доверять компьютеру и перестанут думать самостоятельно. «Это хорошо известное явление, которое уже приводило к смертельным случаям во время войны, в коммерческой авиации и даже на шоссе, — подчеркнул Шарре. — Мы видели это в беспилотных автомобилях, которые отлично управляются в обычных условиях, но затем внезапно и без предупреждения врезаются в бетонные ограждения, припаркованные автомобили, пожарные гидранты и пешеходов»._

Шарре добавил, что для обучения работе с Системой ядерного командования, контроля и связи (NC3), в задачи которой входит предупреждение о готовящемся ядерном ударе, ИИ и близко не получит такого огромного массива реальных данных для обучения, каковым он располагает для обучения управлением беспилотных автомобилей, которые он время от времени с разгона бьет о бетонные стены.