主页期刊介绍编委会编辑部服务介绍道德声明在线审稿编委办公English
2022年专刊出版计划 微信服务介绍 最新一期:2021年第2期
     
在线出版
各期目录
纸质出版
分辑系列
论文检索
论文排行
综述文章
专刊文章
美文分享
各期封面
E-mail Alerts
RSS
旧版入口
中国科学院软件研究所
  
投稿指南 问题解答 下载区 收费标准 在线投稿
李航宇,王楠楠,朱明瑞,杨曦,高新波.神经结构搜索的研究进展综述.软件学报,0,(0):33-0
神经结构搜索的研究进展综述
Recent Advances in Neural Architecture Search: A Survey
投稿时间:2020-11-04  修订日期:2021-01-08
DOI:10.13328/j.cnki.jos.006306
中文关键词:  神经结构搜索  自动化机器学习  深度学习  神经网络  规范化评估
英文关键词:neural architecture search  automated machine learning  deep learning  neural network  normalized evaluation
基金项目:国家重点研发计划(2018AAA0103202);国家自然科学基金(61922066,61876142,62036007)
作者单位E-mail
李航宇 综合业务网理论及关键技术国家重点实验室(西安电子科技大学), 陕西 西安 710071  
王楠楠 综合业务网理论及关键技术国家重点实验室(西安电子科技大学), 陕西 西安 710071 nnwang@xidian.edu.cn 
朱明瑞 综合业务网理论及关键技术国家重点实验室(西安电子科技大学), 陕西 西安 710071  
杨曦 综合业务网理论及关键技术国家重点实验室(西安电子科技大学), 陕西 西安 710071  
高新波 重庆邮电大学 计算机科学与技术学院, 中国 重庆 400065  
摘要点击次数: 167
全文下载次数: 84
中文摘要:
      近年来,深度神经网络(DNNs)在许多人工智能任务中取得卓越表现,例如计算机视觉(CV)、自然语言处理(NLP).然而,网络设计严重依赖专家知识,这是一个耗时且易出错的工作.于是,作为自动化机器学习(AutoML)的重要子领域之一,神经结构搜索(NAS)受到越来越多的关注,旨在以自动化的方式设计表现优异的深度神经网络模型.本文全面细致地回顾神经结构搜索的发展过程,进行了系统总结.首先,给出了神经结构搜索的研究框架,并分析每个研究内容的作用;接着,根据其发展阶段,将现有工作划分为四个方面,介绍各阶段发展的特点;然后,介绍现阶段验证结构搜索效果经常使用的数据库,创新性地总结该领域的规范化评估标准,保证实验对比的公平性,促进该领域的长久发展;最后,对神经结构搜索研究面临的挑战进行了展望与分析.
英文摘要:
      In recent years, deep neural networks (DNNs) have achieved outstanding performance on many AI tasks, such as computer vision (CV) and natural language processing (NLP). However, the network design relies heavily on the expert knowledge, which is time-consuming and easy to make mistakes. As a result, as one of the important sub-fields of automated machine learning (AutoML), the neural architecture search (NAS) has been paid more and more attention, which aims to automatically design deep neural networks with superior performance. In this paper, the development process of neural architecture search is reviewed in detail and systematically summarized. Firstly, the overall research framework of neural architecture search is given, and the function of each research content is analyzed. Next, according to the development stage in NAS field, the existing methods are divided into four aspects, and the characteristic of each stage is introduced in detail. Then, we introduce the datasets which are often used to verify the effect of NAS methods at this stage, and innovatively summarize the normalized evaluation criteria in NAS field, so as to ensure the fairness of experimental comparison and promote the long-term development of this field. Finally, the challenges of NAS research are proposed and discussed.
HTML  下载PDF全文  查看/发表评论  下载PDF阅读器
 

京公网安备 11040202500064号

主办单位:中国科学院软件研究所 中国计算机学会 京ICP备05046678号-4
编辑部电话:+86-10-62562563 E-mail: jos@iscas.ac.cn
Copyright 中国科学院软件研究所《软件学报》版权所有 All Rights Reserved
本刊全文数据库版权所有,未经许可,不得转载,本刊保留追究法律责任的权利