Neocognitron学习算法分析
作者:

ON THE LEARNING PROCESS OF THE NEOCOGNITRON
  • 摘要
  • | |
  • 访问统计
  • |
  • 参考文献 [1]
  • |
  • 相似文献
  • | | |
  • 文章评论
    摘要:

    现有的对Neocognitron的分析都采用代数法,因而无法研究它的动态特性.本文把Neocognitron及其学习算法推广到连续时域,借助微分方程来研究Neocognitron.文中给出了无教师学习算法一般情况下,学习过程中Us层神经元输出变化规律的微分方程,指出其增加的条件,并推出权a、b初始值选择的一个必要条件;进一步得出无教师算法代表稳定后和有教师学习情况下Us变化的一种等效显式函数,指出此时学习过程是Us层神经元输出向一个系数的逼近过程,且有教师学习过程的最后状态与可变权初值和学习率无关.并讨论了影响Us终值和逼近速度的因素.

    Abstract:

    xisting analyses of the Neocognitron failed to discuss the dynamic characteristic during learning because they were all confined to algebraic method. This paper intruduces differentiation to analyse the Neocognitron. For the unsupervised learning, this paper derives a defferential equation to describe us, a condition of us increasing, and an inequality that the initial value of variable weight of a, b must satisfy. For fixed representation or the supervised learning, we obtain an u. function of time. We show that, in this case, learning is a process in which us approximates a coefficience independence of q and the initial value of weight a,b.

    参考文献
    1 Barnard E,Casasent D.Shift invariance and the Neocognitron.Neural Networks,1990;3:403—410. 2 Fukushima K.Neocognitron:a self—organizing neural network model for amechanism of pattern recognition unaf-fected by a shift in position.Biological Cybernetics,1980;36:193—202. 3 Fukushima K,Miyake S.Neocognitron:a new algorithm for pattern recognition tolerant of deformations and shifts in position.Pattern Recognition,1982;15:455—469. 4 Fukushima K.Analysis of process of vision pattern recognition by the Neocognition.Neural Networks,1989;2:413—420. 5 Fukushima K.A hierarchical neural network capable of visual pattern recognition.Neural Networks,1988;1:119—130. 6 Johnson K,Daniell C,Burman J.Feature extraction in the Neocognitron.ICNN 1988,ppll—117—II—126,San Diego. 7 Lee Y el al.Hangul recognition using Neocognitron.INNS Conf,1990:416—419. 8 Menon M,Heinemann K G.Classification of patterns using a self—organizing neural network.Neural Networks, 1988;1:201—215. 9 李星原,舒文豪,洪家荣.Neocognitron同BP,LVQ在手写数字识别中应用的比较.中国首届神经网络大会论文集,1990:808—811. 10 李星原.神经网络在文字识别中的应用.硕士论文,哈尔滨工业大学,1990.
    相似文献
    引证文献
    网友评论
    网友评论
    分享到微博
    发 布
引用本文

洪家荣,李星原. Neocognitron学习算法分析.软件学报,1994,5(4):35-39

复制
分享
文章指标
  • 点击次数:
  • 下载次数:
  • HTML阅读次数:
  • 引用次数:
历史
  • 收稿日期:1991-10-22
  • 最后修改日期:1992-01-27
文章二维码
您是第19946468位访问者
版权所有:中国科学院软件研究所 京ICP备05046678号-3
地址:北京市海淀区中关村南四街4号,邮政编码:100190
电话:010-62562563 传真:010-62562533 Email:jos@iscas.ac.cn
技术支持:北京勤云科技发展有限公司

京公网安备 11040202500063号