Представитель Anthropic призвал религиозных лидеров к контролю над ИИ

Разработка искусственного интеллекта (ИИ) не может быть оставлена исключительно на откуп технологическим компаниям, заявил соучредитель компании Anthropic Крис Олах 25 мая, выступая в Ватикане на презентации первой энциклики Папы Льва об ИИ, сообщает Reuters.

По его словам, помимо непосредственных разработчиков — технологических компаний — контроль над ИИ должен быть усилен со стороны религиозных лидеров, правительств и гражданского общества.

Олах заявил, что существует «реальная вероятность» того, что ИИ вытеснит человеческий труд «в очень больших масштабах».

«Если это произойдет, поддержка перемещенных лиц станет моральным императивом исторического масштаба», — сказал он, сидя рядом с папой.

Он добавил, что разработчики ИИ работают под сильным коммерческим, геополитическим и личным давлением, которое порой противоречит широким интересам общества и простых людей. И даже исследователи с благими намерениями находятся под влиянием этих сил.

«Каждая передовая лаборатория искусственного интеллекта… работает в условиях множества стимулов и ограничений, которые порой могут противоречить правильным действиям», — сказал он, добавив, что в таких условиях внешний контроль крайне необходимым.

Кристофер Олах — соучредитель и ведущий исследователь компании Anthropic, возглавляющий направление интерпретируемости систем — одну из наиболее трудных задач в сфере безопасности ИИ, цель которой — понять внутреннюю логику работы «черного ящика» нейросетей.