Anthropic предупредил, что ИИ скоро научится самовоспроизводиться автономно

Небольшим моделям искусственного интеллекта (ИИ), возможно, потребуется всего несколько месяцев, чтобы обрести способность к самовоспроизведению, заявила компания Anthropic, 13 октября сообщает Reuters.

По словам представителей компании, эксперименты показывают, что ИИ может стать достаточно способным к самовоспроизведению на коммерческих устройствах интернета вещей (IoT), таких как умные духовки и недорогие ТВ-приставки на базе Android.

В своих экспериментах компания Anthropic выясняла, способны ли модели ИИ находить уязвимые устройства, копировать себя в эти устройства и продолжать распространяться без участия человека.

Оказалось, что небольшие модели ИИ, содержащие менее 30 млрд параметров, могут выполнить достаточно шагов, чтобы самовоспроизводиться, несмотря на некоторые трудности с выполнением всей последовательности.

При этом компания предупредила, что самокопирующиеся модели будет сложно отключить, поскольку отсутствует централизованная точка отключения.

Ранее Anthropic заявляла, что если небольшие модели ИИ будут совершенствоваться с той же скоростью, что и раньше, то они смогут самостоятельно начать воспроизводиться к концу 2026 года.