基于权值不确定性的玻尔兹曼机算法

doi:10.13328/j.cnki.jos.005263

微信服务号

微信订阅号

2025年4月3日 14:04 星期四

首页 > 过刊浏览>2018年第29卷第4期 >1131-1142. DOI:10.13328/j.cnki.jos.005263

PDF HTML阅读 XML下载导出引用引用提醒

基于权值不确定性的玻尔兹曼机算法
DOI:
                        10.13328/j.cnki.jos.005263
                    
CSTR:
                        
                    
作者:
                        丁世飞丁世飞
中国矿业大学 计算机科学与技术学院, 江苏 徐州 221116;中国科学院 计算技术研究所 智能信息处理重点实验室, 北京 100190
在期刊界中查找
在百度中查找
在本站中查找
张健张健
中国矿业大学 计算机科学与技术学院, 江苏 徐州 221116;中国科学院 计算技术研究所 智能信息处理重点实验室, 北京 100190
在期刊界中查找
在百度中查找
在本站中查找
史忠植史忠植
中国科学院 计算技术研究所 智能信息处理重点实验室, 北京 100190
在期刊界中查找
在百度中查找
在本站中查找

                    
作者单位:
作者简介:丁世飞(1963-),男,山东青岛人,博士,教授,博士生导师,CCF杰出会员,主要研究领域为智能信息处理,人工智能,模式识别,机器学习,数据挖掘,粗糙集,软计算,大数据分析,云计算;张健(1990-),男,学士,主要研究领域为机器学习,模式识别;史忠植(1941-),男,博士,教授,博士生导师,CCF会士,主要研究领域为智能科学,人工智能,机器学习.
通讯作者:丁世飞,E-mail:dingsf@cumt.edu.cn
中图分类号:
基金项目:国家自然科学基金（61672522，61379101）；国家重点基础研究发展计划（973）（2013CB329502）

Algorithms of Boltzmann Machines Based on Weight Uncertainty

Author:

DING Shi-Fei
DING Shi-Fei
School of Computer Science and Technology, China University of Mining and Technology, Xuzhou 221116, China;Key Laboratory of Intelligent Information Processing, Institute of Computing Technology, The Chinese Academy of Sciences, Beijing 100190, China
在期刊界中查找
在百度中查找
在本站中查找
ZHANG Jian
ZHANG Jian
School of Computer Science and Technology, China University of Mining and Technology, Xuzhou 221116, China;Key Laboratory of Intelligent Information Processing, Institute of Computing Technology, The Chinese Academy of Sciences, Beijing 100190, China
在期刊界中查找
在百度中查找
在本站中查找
SHI Zhong-Zhi
SHI Zhong-Zhi
Key Laboratory of Intelligent Information Processing, Institute of Computing Technology, The Chinese Academy of Sciences, Beijing 100190, China
在期刊界中查找
在百度中查找
在本站中查找

Affiliation:

Fund Project:

National Natural Science Foundation of China (61672522, 61379101); National Basic Research Program of China (973) (2013CB329502)

摘要

图/表

访问统计

参考文献

相似文献

引证文献

资源附件

文章评论

摘要:

受限制的玻尔兹曼机（RBM）是一种无向图模型.基于RBM的深度学习模型包括深度置信网（DBN）和深度玻尔兹曼机（DBM）等.在神经网络和RBM的训练过程中，过拟合问题是一个比较常见的问题.针对神经网络的训练，权值随机变量（weight random variables）、Dropout方法和早期停止方法已被用于缓解过拟合问题.首先，改变RBM模型中的训练参数，使用随机变量代替传统的实值变量，构建了基于随机权值的受限的波尔兹曼机（weight uncertainty RBM，简称WRBM），接下来，在WRBM基础上构建了相应的深度模型：Weight uncertainty Deep Belief Network（WDBN）和Weight uncertainty Deep Boltzmann Machine（WDBM），并且通过实验验证了WDBN和WDBM的有效性.最后，为了更好地建模输入图像，引入基于条件高斯分布的RBM模型，构建了基于spike-and-slab RBM（ssRBM）的深度模型，并通过实验验证了模型的有效性.

关键词:玻尔兹曼机;深度玻尔兹曼机;深度置信网;权值不确定性

Abstract:

Based on the restricted Boltzmann machine (RBM), which is a probabilistic graphical model, deep learning models contain deep belief net (DBN) and deep Boltzmann machine (DBM). The overfitting problems commonly exist in neural networks and RBM models. In order to alleviate the overfitting problem, this paper introduces weight random variables to the conventional RBM model and, then builds weight uncertainty deep models based on maximum likelihood estimation. In the experimental section, the paper verifies the effectiveness of the weight uncertainty RBM. In order to improve the image recognition ability, the paper introduces the spike-and-slab RBM (ssRBM) to weight uncertainty RBM and then builds the deep models. The experiments show that the deep models based on weight random variables are effective.

Key words:RBM (restricted Boltzmann machine);DBM (deep Boltzmann machine);DBN (deep belief net);weight uncertainty

引用本文

丁世飞,张健,史忠植.基于权值不确定性的玻尔兹曼机算法.软件学报,2018,29(4):1131-1142

复制

文章指标

点击次数:
下载次数:
HTML阅读次数:
引用次数:

历史

收稿日期:2016-09-06
最后修改日期:2016-10-19
录用日期:
在线发布日期: 2017-04-11
出版日期:

微信服务号

微信订阅号

引用本文

分享

文章指标

历史

文章二维码

微信服务号

微信订阅号

引用本文

分享

微信扫一扫：分享

文章指标

历史

文章二维码