Ученые ускорили обучение нейросетей, заменив электричество на свет
Исследователи из Университета Джорджа Вашингтона сумели улучшить энергоэффективность обучения нейронных сетей, заменив в электронике электричество светом, 21 июля соответствующая статья опубликована в журнале Applied Physics Reviews.
На текущий момент для обучения нейронных сетей используются электрические процессоры. Для обучения искусственных нейросетей сложным задачам требуются существенные временные затраты и значительные энергоресурсы. Также скорость обучения ограничена временем передачи данных из памяти компьютера до вычислительного процессора.
В своей работе ученые установили, что использование фотонов, то есть света вместо электричества, в процессорах обучения нейронных сетей позволит и снять ограничения скорости передачи данных и уменьшить количество электроэнергии, необходимого для обучения нейросети.
Согласно исследователям, полностью построенная на фотонах система может выполнять на 2–3 порядка больше операций за единицу электроэнергии, чем электрическая система. Из этого следует, что и обучение нейросети на такой системе будет быстрее и энергоэффективнее.
При этом, существенно улучшить энергоэффективность и скорость работы можно только за счет встроенного в электрическую систему процессора, построенного на фотонах.