В Германии призвали остановить разработку искусственного интеллекта

Разработку искусственного интеллекта необходимо остановить до появления безопасного пути развития сверхинтеллекта, заявил бывший исследователь OpenAI, руководитель проекта AI Futures в Беркли Дэниел Кокотайло 18 сентября в интервью журналу Der Spiegel.

«По сути, мы должны остановить разработку ИИ», — сказал Кокотайло и добавил, что сейчас человечеству не хватает «понимания и способности точно регулировать ИИ и различать добро и зло».

Эксперт отметил, что его опасения связаны с тем, что индустрия ИИ планирует автоматизировать исследования в области ИИ. Обучение одной системы искусственного интеллекта другой значительно ускоряет прогресс, но одновременно затрудняет контроль и повышает вероятность того, что ошибки останутся незамеченными.

«С этого момента ИИ может развить значительно сверхчеловеческие способности во многих отношениях — возможно, во всех отношениях. Это чрезвычайно опасно», — уверен специалист.

В ходе интервью исследователь обвинил Anthropic, OpenAI, X и Google в ограничении контроля за безопасностью с помощью предложенных ими мер регулирования ИИ. По его словам, компании выступили за введение незначительного регулирования от лица нескольких внешних аудиторов, но слишком мало внимания уделили замедлению или прекращению автоматизированного развития искусственного интеллекта.

Исследователь призвал ввести масштабные ограничения на разработку ИИ такими компаниями, как OpenAI и Anthropic. По его мнению, продолжать развитие сверхинтеллекта следует лишь после того, как будет найден безопасный путь, приносящий пользу всем.

«Для этого требуется полная прозрачность, более широкое распределение власти — и выключатель», — заявил Кокотайло.