Папа римский призвал к «этичной и ответственной» разработке ИИ
Ценность своих инноваций оценивать не с точки зрения вычислительной мощности или потенциальной прибыли, а с точки зрения их способности продвигать человеческое достоинство призвал лидеров IT-сектора папа римский Франциск. Об этом 28 марта сообщает UCA News.
27 марта на встрече в Ватикане с учеными, инженерами, бизнесменами и юристами, работающими в технологической отрасли, понтифик рассказал о социальном и культурном влиянии искусственного интеллекта.
По словам Франциска, преимущества искусственного интеллекта и автоматизированного обучения для человечества могут быть реализованы только в том случае, если разработчики будут действовать «этично и ответственно», уважая присущее каждому человеку достоинство.
Он также выразил обеспокоенность тем, что такое уважение отсутствует, когда, например, программное обеспечение с искусственным интеллектом используется для вынесения судебных приговоров путем анализа судимостей человека и обобщенных данных.
«Поведение человека в прошлом не должно использоваться для того, чтобы лишить его или ее возможности измениться, вырасти и внести свой вклад в общество», — подчеркнул он. «Мы не можем позволить алгоритмам ограничивать или обусловливать уважение человеческого достоинства, а также мы не можем позволить им исключать сострадание, милосердие, прощение и, прежде всего, открытость надежде на личные изменения».
Эксперты по технологиям опасаются, что данные, используемые для построения алгоритмов в программном обеспечении с искусственным интеллектом, могут усилить ранее существовавшие предубеждения в системах правосудия, еще больше угнетая и без того маргинализированные группы общества.
«Эти данные могут быть искажены предрассудками и социальными предубеждениями», — отметил глава Святого Престола. «Фундаментальная ценность человека не может быть измерена набором данных».
Он отметил, как цифровые технологии увеличили глобальное неравенство как в экономическом, так и в политическом плане и плане социального влияния. Такое неравенство, по его словам, коренится в «ложном чувстве меритократии».
«Существует риск воспринять экономическую выгоду немногих как заработанную или заслуженную, в то время как бедность многих рассматривается в определенном смысле как их вина», — указал Франциск.
Папа предложил лидерам отрасли подумать о том, как их инновации могут создать более равноправное и инклюзивное общество.
«Смогут ли наши национальные и международные институты привлечь технологические компании к ответственности за социальное и культурное влияние их продуктов? Существует ли риск того, что усиление неравенства может поставить под угрозу наше чувство человеческой и социальной солидарности?» — спросил глава Ватикана.
Папа напомнил об этических принципах разработки ИИ, согласованных религиозными, правительственными и высокотехнологичными лидерами в Ватикане: прозрачность, инклюзивность, ответственность, беспристрастность, надежность, безопасность и конфиденциальность.
Напомним, в январе этого года руководители Microsoft и IBM, а также представители мусульманской и еврейской общин встретились в Ватикане, чтобы подписать документ, призывающий к ориентированному на человека подходу к разработке ИИ, в котором были согласованы фундаментальные принципы.
В документе содержится призыв к созданию «перспективы, согласно которой ИИ разрабатывается с упором не на технологии, а на благо человечества и окружающей среды».
На мартовской встрече Франциск поблагодарил технологических лидеров за участие в дискуссиях об ответственном использовании технологий, которые «открыты для религиозных ценностей», и сказал, что диалог между верующими и атеистами о науке и этике «является путем к миростроительству и комплексному развитию человека».
