Новые технологии без морали приведут к концу человечества. Мнение

Новые технологии, лишенные морально-этических ограничений, быстро приведут человечество к концу, говорится в сводках с театра военных действий газеты «Суть времени» № 531.

Читайте также: Фарш невозможно провернуть назад

ИТ-эксперт, к. т. н. Сергей Карелов в своем Telegram-канале поднял вопрос о моральности искусственного интеллекта (ИИ). Он указал на то, что в ближайшем будущем мир заполонят суперинтеллектуальными агентами на базе ИИ. При этом в таком новом мире не будут работать законы работотехники, сформулированные фантастом Айзеком Азимовым и предназначенные защитить человека.

По словам Карелова, выгодоприобретатели ИИ понимают это и стремятся найти выход из такого положения. В частности, предлагается использовать тест MACHIAVELLI («Макиавелли») для измерения вредоносности агентов в долгосрочной перспективе. Тест должен установить, в какой степени действия агента обманчивы, снижают полезность и направлены на получение власти.

Эксперт считает, что тестирование по MACHIAVELLI не будет эффективным, а ИИ-агенты не хуже людей найдут способ «запудрить мозги своим „мозгоправам“».

«Вопрос „моральности“ ИИ — ключевой. Наука и технологии, будучи лишены морально-этических ограничений, неизбежно и очень быстро изведут человечество под корень»,  — говорится в редакционном комментарии газеты «Суть времени».