Более 100 экспертов сочли невозможной независимую проверку безопасности ИИ

Независимая проверка безопасности так называемого искусственного интеллекта (ИИ) в настоящее время невозможна, говорится в письме, подписанном более чем 100 экспертами и специалистами в этой сфере, передает 18 сентября телеканал CNBC.

Авторы письма призывают разработчиков ИИ привлекать сторонние организации для оценки стремительно растущих возможностей и рисков технологии.

«Чтобы результаты такой оценки заслуживали доверия, она должна отличаться научной объективностью, прозрачностью и независимостью, а также быть надежно защищенной от вмешательства со стороны оцениваемых компаний», — говорится в документе.

По мнению авторов призыва, разработчики систем ИИ должны привлекать оценщиков, обладающих реальной независимостью. Они не должны быть зависимы от заказчиков или иметь с ними значимые коммерческие связи. Также оценщики не должны получать оплаты в зависимости от результатов. Кроме того, их деятельность должна быть прозрачной.

При этом метод такой оценки не может решить все задачи в сфере контроля, говорится в письме. Эти меры следует рассматривать как дополнение к более широким мерам, принимаемым разработчиками систем ИИ.