OpenAI приостановила обучение своих наиболее эффективных ИИ-моделей

Американская компания OpenAI временно прекратила обучение наиболее эффективных моделей искусственного интеллекта из-за вопросов безопасности, 27 сентября сообщает Axios.

Представитель компании заявил, что работы возобновят «только тогда, когда компания будет уверена в наличии дополнительных мер безопасности».

По данным источников портала, специалисты OpenAI и Anthropic расследуют десятки тысяч инцидентов, зафиксированных в последние месяцы во время испытаний ИИ-систем и их использования в реальных условиях. Информация о многих случаях пока не раскрывалась публично.

Собеседники Axios считают, что проблема может быть «на порядки сложнее, чем это известно общественности». Предварительные выводы сотрудников компаний и привлеченных экспертов также ставят под сомнение способность разработчиков установить полный контроль над своими технологиями.