Создана память, позволяющая оперировать сравнимыми с мозгом моделями ИИ
Специализированное устройство хранения данных MemoryX емкостью 2,4 Пбайта для расчетов сверхкрупных моделей искусственного интеллекта (ИИ) представила на мероприятии Hot Chips 33 компания Cerebras, 28 августа сообщает портал ServerNews.
Устройство использует принципы динамической памяти (DRAM) и флеш-памяти. При этом его объем позволяет оперировать моделями ИИ с числом параметров, достигающим 120 трлн.
По оценке разработчиков, по этому показателю модели уже могут приблизиться к масштабу человеческого мозга, в котором имеется около 80 млрд нейронов, объединенных 100 трлн связей.
Генеральный директор Cerebras Эндрю Фельдман привел в пример такую крупную нейросеть, как GPT-3, которая специализируется на обработке естественного языка. По его словам, GPT-3 уже сейчас изменила до неузнаваемости индустрию машинной обработки языка, дав возможность на практике делать то, о чем раньше нельзя было и помыслить.
«Индустрия перешла к моделям с 1 трлн параметров, а мы расширяем эту границу на два порядка, создавая нейронные сети со 120 трлн параметров, сравнимую по масштабу с мозгом», — заявил Фельдман.
