Нобелевские лауреаты назвали Anthropic небезопасной ИИ-компанией перед IPO

Компания Anthropic не следует мерам безопасности в сфере разработки искусственного интеллекта (ИИ), говорится в заявлении коалиции нобелевских лауреатов, академиков и топ-менеджеров технологических компаний, опубликованном 18 ноября на сайте некоммерческой исследовательской организации «Центр ИИ-безопасности».

Обращение было опубликовано за день до первичного размещения акций (IPO) Anthropic на бирже. Под заявлением в том числе подписались экономист Оливер Харт, физик Шелдон Глэшоу, специалист по ИИ Джуда Перл, сооснователь Hugging Face Томас Вольф и сооснователь xAI Игорь Бабушкин.

Члены коалиции обвиняют Anthropic в том, что компания использует свою репутацию в сфере безопасности для привлечения инвесторов, но отступает от обязательств. Главное обвинение заключается в использовании рекурсивного самоулучшения. Это концепция, при которой ИИ-модели участвуют в создании более способных преемников.

Подписанты также указали на изменения в политике Responsible Scaling Policy — рамке управления рисками по мере роста возможностей моделей. В феврале Anthropic пересмотрела политику и убрала прежнее обещание в одностороннем порядке приостанавливать разработку, если адекватные меры защиты не обеспечены.

Целью письма, вероятно, было помешать IPO, но продажа акций Anthropic прошла успешней, чем планировалось. В ходе размещения ценных бумаг компания планировала получить до $64,4 млрд, а фактическая сумма составила $81,34 млрд. При плановом диапазоне $70 до $78 за акцию, их продавали в среднем на 20% дороже, а в пике — по $115,10.

Комментарии
Загружаются...