Маск: ИИ может привести к гибели человечества с вероятностью 10-20%

Вероятность того, что искусственный интеллект приведет к гибели человечества, не превышает 20%. Об этом заявил американский миллиардер Илон Маск, 1 апреля сообщает Business Insider.

Маск выступил на конференции в Лос-Анджелесе (штат Калифорния), посвященной вопросу возможности реализации ИИ в ближайшие десятилетия. По его мнению, ИИ слишком демонизируют и зря думают, что он так быстро «поработит» человечество.

«Я думаю, есть некоторая вероятность, что он приведет к гибели человечества. Возможно, я соглашусь, что она составляет примерно 10-20% или что-то около этого», — заявил Маск.

Читайте также: Искусственный интеллект очень скоро будет лгать людям — мнение

Речь идет о заявлении британско-канадского ученого, первопроходца в области искусственного интеллекта Джеффри Хинтона о вероятности гибели человечества в условиях создания искусственного интеллекта.

Пока Маск сомневается в опасности ИИ, некоторые эксперты говорят о том, что у него появится даже способность врать. Специалист по техническому оборудованию с двадцатилетним опытом написания статей и книг о сельскохозяйственной технике Джастин Робертс приводит данные недавней статьи, озаглавленной «Спящие агенты: обучение обманчивых LLM (больших языковых моделей)». В ней международная группа экспертов предположила, что компьютеры научатся принимать реакции, схожие с реакциями человека, когда он находится в состоянии стресса.

Проще говоря, ИИ будет врать. И, что еще хуже, компьютеры научатся скрывать обман, считают эксперты. Исследователи смогли создать ситуации, когда небезопасный код был написан, несмотря на применяемые протоколы безопасности.