Искусственный интеллект — непрозрачность алгоритмов беспокоит экспертов
Отсутствие прозрачности в алгоритмах принятия решений искусственным интеллектом вызывает неоднозначность оценок экспертами применения этих программ с учетом возрастающего масштаба их применения, 11 февраля сообщает РИА Новости Украина.
В последнее время системы искусственного интеллекта (ИИ) играют все большее значение в некоторых сферах нашей жизни. Так, по оценкам экспертов, в США более 70% резюме предварительно отфильтровываются системами ИИ, прежде чем их увидят люди. Еще одним примером возрастающей роли автоматизированных компьютерных систем являются биржевые компьютерные системы, которые, по мнению экспертов, совершают почти 90% всех сделок по акциям на биржах США.
Искусственный интеллект помогает и в такой интимной области, как поиск партнеров на сайтах знакомств.
Все более широко применяются системы ИИ в медицине, в США эксперты прогнозируют многократный рост применения искусственного интеллекта на ближайшие годы.
При этом многие эксперты заявляют о том, что алгоритмы действия которых ИИ непрозрачны, иными словами совершенно не ясно, исходя из каких критериев система производит выбор того или иного решения. Так, известный ученый-физик Стивен Хокинг заявил, что столь стремительное развитие систем ИИ может представлять опасность для человечества, и он не одинок в этом мнении, в таком же духе высказывается и глава компаний Tesla Motors и SpaceX Илон Маск.
Напомним, что системами ИИ называются компьютерные системы, работающие в тех видах человеческой деятельности, которые считаются интеллектуальными. Начало развития искусственного интеллекта было положено еще в середине прошлого века. Так, в 1950 году вышла работа Алана Тьюринга под названием «Может ли машина мыслить?». Не являются новыми и страхи людей перед ИИ как силой, способной поработить людей. Такие сценарии подробно рассматривались в научно-фантастической литературе прошлого века.
Следует отметить, что развитие искусственного интеллекта не может представлять серьезную опасность для человечества в ближайшей перспективе, а подобные заявления являются полностью надуманными. На пути создания машин обладающих хотя бы неким подобием человеческого интеллекта пока что стоят серьезные фундаментальные проблемы, например отсутствие полноценной научной теории сознания. Отсутствие же прозрачности алгоритмов работы ИИ действительно может приводить к серьезным проблемам в их использовании.
