主页期刊介绍编委会编辑部服务介绍道德声明在线审稿编委办公编辑办公English
2018-2019年专刊出版计划 微信服务介绍 最新一期:2018年第12期
     
在线出版
各期目录
纸质出版
分辑系列
论文检索
论文排行
综述文章
专刊文章
美文分享
各期封面
E-mail Alerts
RSS
旧版入口
中国科学院软件研究所
  
投稿指南 问题解答 下载区 收费标准 在线投稿
陈建廷,向阳.深度神经网络训练中梯度不稳定现象研究综述.软件学报,2018,29(7):2071-2091
深度神经网络训练中梯度不稳定现象研究综述
Survey of Unstable Gradients in Deep Neural Network Training
投稿时间:2017-09-27  修订日期:2017-11-10
DOI:10.13328/j.cnki.jos.005561
中文关键词:  深度神经网络  梯度不稳定现象  梯度衰减  梯度爆炸
英文关键词:deep neural network  unstable gradient  vanishing gradient  exploding gradient
基金项目:国家重点基础研究发展计划(973)(2014CB340404);国家自然科学基金(71571136);上海市科委基础研究项目(16JC403000)
作者单位E-mail
陈建廷 同济大学 电子信息与工程学院, 上海 201804  
向阳 同济大学 电子信息与工程学院, 上海 201804 shxiangyang@tongji.edu.cn 
摘要点击次数: 1133
全文下载次数: 1196
中文摘要:
      深度神经网络作为机器学习领域的热门研究方向,在训练中容易出现梯度不稳定现象,是制约其发展的重要因素,控制和避免深度神经网络的梯度不稳定现象是深度神经网络的重要研究内容.分析了梯度不稳定现象的成因和影响,并综述了目前解决梯度不稳定现象的关键技术和主要方法.最后展望了梯度不稳定现象的未来研究方向.
英文摘要:
      As a popular research direction in the field of machine learning, deep neural networks are prone to the phenomenon of unstable gradients in training, which has become an important element that restricts their development. How to avoid and control unstable gradients is an important research topic of deep neural networks. This paper analyzes the cause and effect of the unstable gradients, and reviews the main models and methods of solving the unstable gradients. Furthermore, the future research trends in the unstable gradients is discussed.
HTML  下载PDF全文  查看/发表评论  下载PDF阅读器
 

京公网安备 11040202500064号

主办单位:中国科学院软件研究所 中国计算机学会
编辑部电话:+86-10-62562563 E-mail: jos@iscas.ac.cn
Copyright 中国科学院软件研究所《软件学报》版权所有 All Rights Reserved
本刊全文数据库版权所有,未经许可,不得转载,本刊保留追究法律责任的权利