机器学习安全攻击与防御机制研究进展和未来挑战
作者:
作者单位:

作者简介:

李欣姣(1992-),女,博士生,主要研究领域为大数据安全和隐私.
吴国伟(1973-),男,博士,教授,博士生导师,CCF专业会员,主要研究领域为自主智能系统,智能边缘计算.
姚琳(1976-),女,博士,教授,博士生导师,CCF专业会员,主要研究领域为大数据安全和隐私.
张伟哲(1976-),男,博士,教授,博士生导师,CCF杰出会员,主要研究领域为网络空间安全,网络安全,系统安全,内容安全,云计算,高性能计算.
张宾(1976-),男,博士,高级工程师,CCF专业会员,主要研究领域为网络测量,拓扑发现,异常检测.

通讯作者:

吴国伟,E-mail:wgwdut@dlut.edu.cn

基金项目:

国家自然科学基金(61872053);中央高校基本科研业务费专项资金(DUT19GJ204);广东省重点领域研发计划(2019B010136001);广东省重点科技计划(LZC0023)


Progress and Future Challenges of Security Attacks and Defense Mechanisms in Machine Learning
Author:
Affiliation:

Fund Project:

National Natural Science Foundation of China (61872053); Fundamental Research Funds for the Central Universities (DUT19GJ204); Key-Area Research and Development Program of Guangdong Province (2019B010136001); Key Science and Technology Program of Guangdong Province (LZC0023)

  • 摘要
  • |
  • 图/表
  • |
  • 访问统计
  • |
  • 参考文献
  • |
  • 相似文献
  • |
  • 引证文献
  • |
  • 资源附件
    摘要:

    机器学习的应用遍及人工智能的各个领域,但因存储和传输安全问题以及机器学习算法本身的缺陷,机器学习面临多种面向安全和隐私的攻击.基于攻击发生的位置和时序对机器学习中的安全和隐私攻击进行分类,分析和总结了数据投毒攻击、对抗样本攻击、数据窃取攻击和询问攻击等产生的原因和攻击方法,并介绍和分析了现有的安全防御机制.最后,展望了安全机器学习未来的研究挑战和方向.

    Abstract:

    Machine learning applications span all areas of artificial intelligence, but due to storage and transmission security issues and the flaws of machine learning algorithms themselves, machine learning faces a variety of security- and privacy-oriented attacks. This survey classifies the security and privacy attacks based on the location and timing of attacks in machine learning, and analyzes the causes and attack methods of data poisoning attacks, adversary attacks, data stealing attacks, and querying attacks. Furthermore, the existing security defense mechanisms are summarized. Finally, a perspective of future work and challenges in this research area are discussed.

    参考文献
    相似文献
    引证文献
引用本文

李欣姣,吴国伟,姚琳,张伟哲,张宾.机器学习安全攻击与防御机制研究进展和未来挑战.软件学报,2021,32(2):406-423

复制
分享
文章指标
  • 点击次数:
  • 下载次数:
历史
  • 收稿日期:2019-08-12
  • 最后修改日期:2019-12-01
  • 录用日期:
  • 在线发布日期: 2020-10-12
您是第位访问者
版权所有:中国科学院软件研究所 京ICP备05046678号-3
地址:北京市海淀区中关村南四街4号,邮政编码:100190
电话:010-62562563 传真:010-62562533 Email:jos@iscas.ac.cn
技术支持:北京勤云科技发展有限公司

京公网安备 11040202500063号