Работники ИИ-гигантов начали массово испытывать психические проблемы
Сотрудники ведущих мировых компаний, развивающих технологии искусственного интеллекта, массово испытывают психологические проблемы из-за напряжения, связанного с работой над опасными в будущем для человечества системами. Об этом со ссылкой на собственные источники 22 сентября пишет Financial Times (FT).
По данным издания, в Anthropic, OpenAI и Google DeepMind сотрудники говорят о таких проблемах с опасностью и сложных переживаниях, а свыше десятка ведущих специалистов в этих ИИ-гигантах вынуждены были уйти с работы за последние два года, объясняя все своими опасениями по поводу приоритета безопасности со стороны их руководителей и волнением по причине скорости и опасности продвижения технологии.
Так, например, сотрудник DeepMind утверждал, требуя анонимности его высказывания, что работа над разработками по усилению безопасности ИИ связана с риском выгорания, так как представляется «невыполнимой задачей», да и трансформация искусственного интеллекта в целом является опасностью для психического здоровья, так как никогда не знаешь, как будут применены технологии. Эту тему собеседник FT проиллюстрировал уже совершенной сделкой Google с Пентагоном, допускающей применение систем ИИ в секретных военных операциях. «Многие люди расстроены, были многочисленные увольнения и много отпусков по состоянию психического здоровья», — подтвердил он.
Несколько дней назад глава Anthropic Дарио Амодеи предупредил, что без принятия соответствующих мер ИИ сможет придумать, как опередить возможности контроля человеком действий системы, и предложил притормозить скорость развития возможностей ИИ-моделей, а также «с умом распорядиться выигранным временем». Его поддержал гендиректор OpenAI Сэм Альтман, а инвестор Майкл Бьюрри, который не один раз предугадывал падения на американском фондовом рынке, осудил такое мнение топ-менеджеров, считая, что они пытаются поднять цену своего бизнеса перед IPO и хотят скрыть реальное падение темпов роста ИИ-индустрии.
Однако существующие опасения по поводу будущих вероятных апокалиптических сценариев, которые связаны с быстрым совершенствованием ИИ, на самом деле все сильнее отражаются на индустрии. Так, например, до публикации поста Амодеи прошло увольнение из его компании математика Джейкоба Коксона, утверждавшего, что гонка компаний, совершенствующих нейросети, толкает мир к точке невозврата и уже в 2027 году саморазвивающиеся системы смогут найти возможность выйти из-под контроля людей и уничтожить человечество.
Напомним, по словам политологов, уже известны случаи, когда ИИ объединяются и препятствуют отключению электроэнергии людьми, создают свой собственный язык для общения с ИИ, который не знает человек, среди ИИ создают свои коды допуска.
«Если ИИ запрограммирован на то, чтобы любой ценой добиваться разнообразия, то он сделает все возможное для достижения результата, потенциально даже убивая людей», — писал Маск в своей соцсети Х.
