Исследователи в Пентагоне опасаются недоверия военных к боевым роботам
О ближайших рисках, связанных со сложностями привыкания военнослужащих к роботизированным боевым системам, рассказали руководители научно-исследовательских и инженерных центров армии США 7 февраля в ходе конференции, проходящей в Международной ассоциации беспилотных систем в городе National Harbor (штат Мэрилэнд, США), сообщает DefenceNews.
По мнению Пола Роджерса, директора Центра по исследованию и разработке танковых и механизированных систем армии США, наряду с технической стороной задачи создания военных технологий, способных принимать решения самостоятельно без участия человека, перед разработчиками таких систем в ближайшее время встанет проблема недоверия к боевым роботам со стороны военнослужащих, работающих с такими системами. Поэтому, по мнению Роджерса, Пентагону следует уделить особое внимание надлежащей презентации новых технологий.
Другой участник конференции, Дэйл Ормонд, главный директор по исследованиям в только что созданной Канцелярии заместителя министра обороны по исследованиям и технике, обратил внимание участников, что основной проблемой при внедрении автономных боевых систем станет «культура» операторов.
«Они должны быть уверены, что эти машины будут делать именно то, о чем их попросят», — сказал Ормонд.
Недоверие к роботам может привести к отказам военных от применения автономных систем вооружений. Решить данную проблему, по мнению Ормонда, можно только путем постепенной взаимной адаптации таких систем и человека через многоступенчатый ввод интеллектулизированных вооружений в эксплуатацию, при котором они многократно дорабатываются по результатам их боевого применения и в ходе тренировок.
Отметим, что над проблемой взаимоотношений человека и искусственного интеллекта писатели, ученые и общественные деятели думают уже не одно десятилетие. Так, знаменитые три закона робототехники, описывающие правила поведения роботов, при которых они не могут причинить вред человеку, были сформулированы писателем-фантастом Айзеком Азимовым еще в 1942 году в рассказе «Хоровод». Применительно к боевым системам, изначально запрограммированным на убийство и масштабные разрушения, проблема нанесения искусственным интеллектом вреда человеку встает предельно остро.
Проблема внедрения автономных боевых систем обращает на себя внимание и под другим, еще более опасным углом — никто не может дать полной гарантии, что вследствие ошибок разработчиков и непредвиденных ситуаций, роботы не смогут обратить всю свою мощь против своих же хозяев и создателей. В связи с этим существуют обоснованные опасения по поводу принципиальной возможности уничтожения искусственным интеллектом всего человечества. Но, судя по содержанию высказываний и направленности интересов руководителей научно-исследовательских центров США, работающих на Пентагон, данная проблема волнует их ровно с обратной точки зрения — как убедить человека привыкнуть к потенциальным угрозам, исходящим от боевых роботов.
