В США разработали микросхему для быстрого обучения нейронных сетей
Электронный чип, предназначенный для повышения скорости обучения нейронных сетей на одном компьютере, представили ученые из США 17 июля в научном журнале IEEE Spectrum.
В сообщении говорится, что благодаря чипу небольшие команды разработчиков в перспективе смогут проводить глубокое обучение нейросетей с той же эффективностью, которая сейчас доступна только крупным компаниям за счет использования больших компьютерных кластеров.
По информации разработчиков, микросхема на аппаратном уровне позволяет моделировать обучающую среду для агента нейронной сети, а также модифицировать его поведение, в зависимости от достижения поставленных целей обучения в рамках этой модели.
В частности, данный подход позволил исследователям добиться 15% роста графической производительности в учебной 3D-среде DeepMind Lab.
Разработчики сообщили, что на данный момент чип не пущен в серийное производство, а стоимость прототипа составляет несколько миллионов долларов. По этой причине, абсолютному большинству разработчиков он пока не по карману.
Напомним, нейронные сети являются альтернативой традиционному алгоритмическому решению различных задач в области компьютерных технологий. Понятие «нейросеть» введено в 1943 году в трудах американских ученых Маккалока и Питтса, однако широкую популярность они получили с конца 50-х годов XX века. С тех пор интерес к нейросетевым технологиям обнаруживал стремительные взлеты и падения. В настоящее время нейросети вновь находятся на пике популярности.
Отметим, главной трудностью при создании нейросети является процесс «обучения», который состоит в настройке ее структуры, связывающей результаты ее работы с исходными данными для решения задачи. При обучении нейросети необходимо установить критерии качества ее работы, которые позволят ей успешно решать поставленную задачу, а также обеспечить огромное количество примеров, на которых нейросеть будет «тренироваться».
Для сложных задач эти критерии очень трудно формализовать, особенно если точное решение задачи неизвестно. По этой причине часть специалистов полагает нейросети вторичным инструментом. Тем не менее, «нейросетевое» решение некоторых задач, например, нашумевшая шахматная сеть AlphaZero, оказывается эффективнее традиционных алгоритмических описаний.
