面向深度学习系统的模糊测试技术研究进展
作者:
作者单位:

作者简介:

通讯作者:

中图分类号:

TP311

基金项目:

国家自然科学基金(61872039);北京市自然科学基金(4162040);航空科学基金(2016ZD74004)


State-of-the-Art Survey of Fuzzing for Deep Learning Systems
Author:
Affiliation:

Fund Project:

  • 摘要
  • |
  • 图/表
  • |
  • 访问统计
  • |
  • 参考文献
  • |
  • 相似文献
  • |
  • 引证文献
  • |
  • 资源附件
  • |
  • 文章评论
    摘要:

    深度学习系统具有强大的学习与推理能力,在无人驾驶、语音识别和机器人等领域应用广泛.由于数据集的限制以及依赖人工标签数据,深度学习系统易于出现非预期的行为.近年来,深度学习系统的质量问题受到广泛的关注,特别是在安全攸关的领域.由于模糊测试具有较强的故障揭示能力,运用模糊测试技术对深度学习系统进行测试成为研究热点.本文从测试用例生成(包括种子队列构建、种子选择和种子变异)、测试结果判定、覆盖分析三个方面对已有的深度学习系统的模糊测试技术进行总结,并介绍常用的数据集以及度量指标,最后对其发展方向进行展望.

    Abstract:

    Deep learning (DL) systems have powerful learning and reasoning capabilities and are widely used in many fields, such as unmanned vehicles, speech processing, intelligent robotics, and etc. Due to the limited dataset and the dependence on manually labeled data, DL systems often fail to detect erroneous behaviors. Accordingly, the quality of DL systems have received widespread attention, especially in safety-critical fields. Due to that fuzzing shows efficient fault-detecting ability in traditional programs, in recent years, it becomes a hot research field to employ fuzzing to test DL systems. In this study, we present a systematic review of fuzzing for DL systems, focusing on test case generation (including seed queue construction, seed selection, and seed mutation), test result determination, and coverage analysis, and then introduce commonly used data sets and metrics. We also discuss issues and opportunities in future researches of this field.

    参考文献
    相似文献
    引证文献
引用本文

代贺鹏,孙昌爱,金慧,肖明俊.面向深度学习系统的模糊测试技术研究进展.软件学报,,():0

复制
分享
文章指标
  • 点击次数:
  • 下载次数:
  • HTML阅读次数:
  • 引用次数:
历史
  • 收稿日期:2021-08-18
  • 最后修改日期:2021-12-23
  • 录用日期:
  • 在线发布日期: 2022-05-24
  • 出版日期:
您是第位访问者
版权所有:中国科学院软件研究所 京ICP备05046678号-3
地址:北京市海淀区中关村南四街4号,邮政编码:100190
电话:010-62562563 传真:010-62562533 Email:jos@iscas.ac.cn
技术支持:北京勤云科技发展有限公司

京公网安备 11040202500063号