Новый алгоритм в 200 раз ускоряет разработку нейронных сетей

Исследователи Массачусетского технологического института создали новый алгоритм разработки нейросетей, который в 200 раз эффективнее лучших современных методов, пишет bit-tech.

Сегодня возможно полностью автоматизировать создание нейросетей компьютером, однако это требует существенных затрат. К примеру, для создания свёрточной нейросети для классификации картинок алгоритму «поиска нейронной архитектуры» (neural architecture search, NAS) от Google необходимо 48 тысяч часов вычислений на GPU — такие ресурсы есть далеко не у всех компаний. Новый алгоритм, по словам учёных из Массачусетса, генерирует такую же нейросеть всего за 200 часов, то есть чуть более 8 суток вычислений на одном GPU.

Цель учёных — дать профессионалам и непрофессионалам в ИИ простой, быстрый и эффективный способ проектирования нейронных архитектур, а также избавить от монотонной и утомительной работы по их усовершенствованию.

Новый алгоритм не только порождает нейросети за меньший промежуток времени: сами нейросети в результате получаются более продуктивными. Например, на смартфонах с задачей по распознаванию изображений они справляются с той же точностью, но в 1,8 раза быстрее, чем лучшие существующие нейросети.

Научная работа (ProxylessNAS: Direct Neural Architecture Search on Target Task and Hardware) опубликована на сайте arXiv.org.