Военные США приняли этические нормы применения искусственного интеллекта
Указание официально принять пять принципов разработки и применения искусственного интеллекта дал министр обороны США Марк Эспер (Mark Esper), 24 февраля заявил глава департамента информации министерства обороны Дана Дизи (Dana Deasy) на пресс-конференции в Пентагоне. Об этом сообщает американский журнал о военных технологиях C4ISRNET.
«Это решение закладывает основу для этического проектирования, разработки, развертывания и использования искусственного интеллекта министерством обороны», — в частности, сказал Дизи.
Он поведал в чем заключаются эти принципы.
1. В ответственности. Сотрудники министерства обороны будут проявлять надлежащий уровень рассудительности и внимательности, будучи ответственными за разработку, развертывание и использование возможностей ИИ;
2. В однозначности (equitable). Департамент предпримет шаги к минимизации непреднамеренных изменений в возможностях ИИ;
3. В отслеживаемости. Разработка и развертывание ИИ будет прозрачной, основанной на проверяемых методологиях, источниках данных, процедурах проектирования и документации. Сотрудники должны иметь представление о технологиях, процессах разработки и оперативных методах, применяемых при этом;
4. В надежности. ИИ найдет четко определенное применение, а безопасность, надежность и эффективность которого будут подлежать проверке;
5. В управляемости. Проектирование ИИ будет предполагать обнаружение и предотвращение непреднамеренных последствий. А для развернутых систем будет предусмотрено их отключение или деактивация в случае проявления ими непредусмотренного поведения;
«Эти принципы резко контрастирует с Россией и Китаем, чье использование технологий искусственного интеллекта в военных целях вызывает серьезную озабоченность по поводу прав человека, этики и международных норм», — заявил директор Объединенного центра искусственного интеллекта (The Joint Artificial Intelligence Center, JAIC) генерал-лейтенант Джек Шанахан (Jack Shanahan), комментируя принятие пяти принципов ИИ.
Предполагается, что слежение за выполнением указанных принципов будет возложено на JAIC. Шанахан рассказал, что для этого планируется ввести в штат данного заведения специалиста по этике ИИ.
