基于多路径回溯的神经网络验证方法
CSTR:
作者:
作者单位:

作者简介:

郑烨(1998-),男,硕士生,CCF学生会员,主要研究领域为智能系统的安全性,神经网络验证;
刘嘉祥(1987-),男,博士,助理教授,CCF专业会员,主要研究领域为形式化方法,程序验证,神经网络验证;
施晓牧(1987-),女,博士,研究员,CCF专业会员,主要研究领域为形式化方法,定理证明技术及其在安全关键系统的应用.

通讯作者:

刘嘉祥,E-mail:jiaxiang0924@gmail.com

中图分类号:

TP311

基金项目:

深圳市高等院校稳定支持计划(20200810045225001);国家自然科学基金(62002228);深圳市科创委基础研究项目(JCYJ20210324094202008)


Multi-path Back-propagation Method for Neural Network Verification
Author:
Affiliation:

Fund Project:

  • 摘要
  • |
  • 图/表
  • |
  • 访问统计
  • |
  • 参考文献
  • |
  • 相似文献
  • |
  • 引证文献
  • |
  • 资源附件
  • |
  • 文章评论
    摘要:

    基于线性抽象的符号传播方法在神经网络验证中具有重要地位.针对这类方法,提出了多路径回溯的概念.现有方法可看作仅使用单条回溯路径计算每个神经网络节点的上下界,是这一概念的特例.使用多条回溯路径,可以有效地改善这类方法的精度.在数据集ACAS Xu,MNIST和CIFAR10上,将多路径回溯方法与使用单条回溯路径的DeepPoly进行定量比较,结果表明,多路径回溯方法能够获得明显的精度提升,而仅引入较小的额外时间代价.此外,在数据集MNIST上,将多路径回溯方法与使用全局优化的Optimized LiRPA比较,结果表明,该方法仍然具有精度优势.

    Abstract:

    Symbolic propagation methods based on linear abstraction play a significant role in neural network verification. This study proposes the notion of multi-path back-propagation for these methods. Existing methods are viewed as using only a single back-propagation path to calculate the upper and lower bounds of each node in a given neural network, being specific instances of the proposed notion. Leveraging multiple back-propagation paths effectively improves the accuracy of this kind of method. For evaluation, the proposed method is quantitatively compared using multiple back-propagation paths with the state-of-the-art tool DeepPoly on benchmarks ACAS Xu, MNIST, and CIFAR10. The experiment results show that the proposed method achieves significant accuracy improvement while introducing only a low extra time cost. In addition, the multi-path back-propagation method is compared with the Optimized LiRPA based on global optimization, on the dataset MNIST. The results show that the proposed method still has an accuracy advantage.

    参考文献
    相似文献
    引证文献
引用本文

郑烨,施晓牧,刘嘉祥.基于多路径回溯的神经网络验证方法.软件学报,2022,33(7):2464-2481

复制
分享
文章指标
  • 点击次数:
  • 下载次数:
  • HTML阅读次数:
  • 引用次数:
历史
  • 收稿日期:2021-09-05
  • 最后修改日期:2021-10-14
  • 录用日期:
  • 在线发布日期: 2022-01-28
  • 出版日期: 2022-07-06
文章二维码
您是第位访问者
版权所有:中国科学院软件研究所 京ICP备05046678号-3
地址:北京市海淀区中关村南四街4号,邮政编码:100190
电话:010-62562563 传真:010-62562533 Email:jos@iscas.ac.cn
技术支持:北京勤云科技发展有限公司

京公网安备 11040202500063号