基于规则推理网络的分类模型
作者:
作者单位:

作者简介:

黄德根(1965-),男,福建南平人,博士,教授,博士生导师,CCF高级会员,主要研究领域为机器学习,自然语言处理,机器翻译;邹丽(1971-),女,博士,教授,CCF专业会员,主要研究领域为智能信息处理;张云霞(1987-),女,博士,主要研究领域为计智能信息处理,不确定性推理;刘壮(1982-),男,博士生,CCF学生会员,主要研究领域为自然语言处理,机器阅读理解、问答;林红梅(1996-),女,学士,主要研究领域为智能信息处理.

通讯作者:

邹丽,E-mail:zoulicn@163.com

中图分类号:

TP181

基金项目:

国家自然科学基金(61772250,U1936109,61672127)


Rule Inference Network Model for Classification
Author:
Affiliation:

Fund Project:

National Natural Science Foundation of China (61772250, U1936109, 61672127)

  • 摘要
  • |
  • 图/表
  • |
  • 访问统计
  • |
  • 参考文献
  • |
  • 相似文献
  • |
  • 引证文献
  • |
  • 资源附件
  • |
  • 文章评论
    摘要:

    为了缓解神经网络的"黑盒子"机制引起的算法可解释性低的问题,基于使用证据推理算法的置信规则库推理方法(以下简称RIMER)提出了一个规则推理网络模型.该模型通过RIMER中的置信规则和推理机制提高网络的可解释性.首先证明了基于证据推理的推理函数是可偏导的,保证了算法的可行性;然后,给出了规则推理网络的网络框架和学习算法,利用RIMER中的推理过程作为规则推理网络的前馈过程,以保证网络的可解释性;使用梯度下降法调整规则库中的参数以建立更合理的置信规则库,为了降低学习复杂度,提出了"伪梯度"的概念;最后,通过分类对比实验,分析了所提算法在精确度和可解释性上的优势.实验结果表明,当训练数据集规模较小时,规则推理网络的表现良好,当训练数据规模扩大时,规则推理网络也能达到令人满意的结果.

    Abstract:

    The black-box working mechanism of artificial neutral network brings the confusion of interpretability. Therefore, a rule inference network is proposed based on rule-base inference methodology using the evidential reasoning approach (RIMER). It is interpretable by the rules and the inference engine in RIMER. In the present work, the partial derivatives of inference functions are proved as the theoretical fundamental of the proposed model. The framework and the learning algorithm of rule inference network for classification are presented. The feed forward of rule inference network using the inference process in RIMER contributes for the interpretability. Meanwhile, parameters in belief rule base such as attribute weights, rule weights and belief degree of consequents are trained by gradient descent as in neural network for belief rule base establishment. Moreover, the gradient is simplified by proposing the "pseudo gradient" to reduce the learning complex during the training process. The experimental results indicate the advantages of proposed rule inference network on both interpretability and learning capability. It shows that the rule inference network performs well when the scale of the training dataset is small, and when the training data scale increases, it also achieves comforting results.

    参考文献
    相似文献
    引证文献
引用本文

黄德根,张云霞,林红梅,邹丽,刘壮.基于规则推理网络的分类模型.软件学报,2020,31(4):1063-1078

复制
分享
文章指标
  • 点击次数:
  • 下载次数:
  • HTML阅读次数:
  • 引用次数:
历史
  • 收稿日期:2019-03-10
  • 最后修改日期:2019-07-11
  • 录用日期:
  • 在线发布日期: 2020-01-14
  • 出版日期: 2020-04-06
您是第位访问者
版权所有:中国科学院软件研究所 京ICP备05046678号-3
地址:北京市海淀区中关村南四街4号,邮政编码:100190
电话:010-62562563 传真:010-62562533 Email:jos@iscas.ac.cn
技术支持:北京勤云科技发展有限公司

京公网安备 11040202500063号