轻量级神经网络架构综述
作者:
作者单位:

作者简介:

葛道辉(1994-),男,博士生,CCF学生会员,主要研究领域为深度学习,计算机视觉,目标跟踪;刘如意(1989-),女,博士,讲师,CCF专业会员,主要研究领域为计算机视觉,机器学习,目标分割提取;李洪升(1994-),男,博士生,主要研究领域为深度学习,视频分类,动作识别;沈沛意(1969-),男,博士,教授,CCF专业会员,主要研究领域为计算机视觉,DSPFPGA理论及应用,数字图像处理,计算机网络;张亮(1981-),男,博士,副教授,博士生导师,主要研究领域为嵌入式多核系统,机器人语义SLAM,三维场景语义分割,手势识别;苗启广(1972-),男,博士,教授,博士生导师,CCF杰出会员,主要研究领域为计算机视觉,机器学习,大数据分析.

通讯作者:

李洪升,E-mail:hsli@stu.xidian.edu.cn

基金项目:

国家重点研发计划(2018YFC0807500,2019YFB1311600);国家自然科学基金(61772396,61472302,61772392,61902296);西安市大数据与视觉智能关键技术重点实验室课题(201805053ZD4CG37);中央高校基本科研业务费专项资金(JBF180301);陕西省重点研发计划(2018ZDXM-GY-036)


Survey of Lightweight Neural Network
Author:
Affiliation:

Fund Project:

National Key Research and Development Program of China (2018YFC0807500, 2019YFB1311600); National Natural Science Foundation of China (61772396, 61472302, 61772392, 61902296); Xi'an Key Laboratory of Big Data and Intelligent Vision (201805053ZD4CG37); Fundamental Research Funds for the Central Universities (JBF180301); Shaanxi Province Key Research and Development Program (2018ZDXM-GY-036)

  • 摘要
  • |
  • 图/表
  • |
  • 访问统计
  • |
  • 参考文献
  • |
  • 相似文献
  • |
  • 引证文献
  • |
  • 资源附件
    摘要:

    深度神经网络已经被证明可以有效地解决图像、自然语言等不同领域的问题.同时,伴随着移动互联网技术的不断发展,便携式设备得到了迅速的普及,用户提出了越来越多的需求.因此,如何设计高效、高性能的轻量级神经网络,是解决问题的关键.详细阐述了3种构建轻量级神经网络的方法,分别是人工设计轻量级神经网络、神经网络模型压缩算法和基于神经网络架构搜索的自动化神经网络架构设计;同时,简要总结和分析了每种方法的特点,并重点介绍了典型的构建轻量级神经网络的算法;最后,总结现有的方法,并给出了未来发展的前景.

    Abstract:

    Deep neural network has been proved to be effective in solving problems in different fields such as image, natural language, and so on. At the same time, with the continuous development of mobile Internet technology, portable devices have been rapidly popularized, and users have put forward more and more demands. Therefore, how to design an efficient and high performance lightweight neural network is the key to solve the problem. In this paper, three methods of constructing lightweight neural network are described in detail, which are artificial design of lightweight neural network, compression algorithm of neural network model, and automatic neural network architecture design based on searching of neural network architecture. The characteristics of each method are summarized and analyzed briefly, and the typical algorithms of constructing lightweight neural network are introduced emphatically. Finally, the existing methods are summarized and the prospects for future development are given.

    参考文献
    相似文献
    引证文献
引用本文

葛道辉,李洪升,张亮,刘如意,沈沛意,苗启广.轻量级神经网络架构综述.软件学报,2020,31(9):2627-2653

复制
分享
文章指标
  • 点击次数:
  • 下载次数:
历史
  • 收稿日期:2019-07-01
  • 最后修改日期:2019-08-18
  • 录用日期:
  • 在线发布日期: 2019-12-06
您是第位访问者
版权所有:中国科学院软件研究所 京ICP备05046678号-3
地址:北京市海淀区中关村南四街4号,邮政编码:100190
电话:010-62562563 传真:010-62562533 Email:jos@iscas.ac.cn
技术支持:北京勤云科技发展有限公司

京公网安备 11040202500063号