面向鲁棒图结构防御的过参数化图神经网络
作者:
作者单位:

作者简介:

初旭(1992-), 男, 博士, 助理研究员, CCF 专业会员, 主要研究领域为机器学习, 数据分析;马辛宇(1999-), 男, 博士生, CCF学生会员, 主要研究领域为时间序列分析, 图数据分析;林阳(1998-), 男, 博士生, CCF学生会员, 主要研究领域为数据挖掘, 自然语言处理;王鑫(1988-), 男, 博士, 助理研究员, CCF高级会员, 主要研究领域为多媒体智能, 媒体大数据, 机器学习;王亚沙(1975-), 男, 博士, 教授, 博士生导师, CCF杰出会员, 主要研究领域为机器学习, 数据分析, 普适计算;朱文武(1963-), 男, 博士, 教授, 博士生导师, CCF会士, 主要研究领域为多媒体大数据, 机器学习;梅宏(1963-), 男, 博士, 教授, 博士生导师, CCF会士, 主要研究领域为软件工程, 系统软件, 大数据分析.

通讯作者:

初旭, E-mail: chu_xu@tsinghua.edu.cn

中图分类号:

TP18

基金项目:

国家科技攻关计划 (2020AAA0106300); 国家自然科学基金 (62250008, 62222209, 62102222, 61936011); 北京信息科学与技术国家研究中心基金 (BNR2023RC01003)


Over-parameterized Graph Neural Network Towards Robust Graph Structure Defending
Author:
Affiliation:

Fund Project:

  • 摘要
  • |
  • 图/表
  • |
  • 访问统计
  • |
  • 参考文献
  • |
  • 相似文献
  • |
  • 引证文献
  • |
  • 资源附件
  • |
  • 文章评论
    摘要:

    图数据在现实应用中普遍存在, 图神经网络(GNN)被广泛应用于分析图数据, 然而 GNN的性能会被图结构上的对抗攻击剧烈影响. 应对图结构上的对抗攻击, 现有的防御方法一般基于图内聚先验进行低秩图结构重构. 但是现有的图结构对抗防御方法无法自适应秩真值进行低秩图结构重构, 同时低秩图结构与下游任务语义存在错配. 为了解决以上问题, 基于过参数化的隐式正则效应提出过参数化图神经网络(OPGNN)方法, 并形式化证明所提方法可以自适应求解低秩图结构, 同时证明节点深层表征上的过参数化残差链接可以有效解决语义错配. 在真实数据集上的实验结果表明, OPGNN方法相对于现有基线方法具有更好的鲁棒性, 同时, OPGNN 方法框架在不同的图神经网络骨干上如 GCN、APPNP 和 GPRGNN 上显著有效.

    Abstract:

    Graph data is ubiquitous in real-world applications, and graph neural networks (GNNs) have been widely used in graph data analysis. However, the performance of GNNs can be severely impacted by adversarial attacks on graph structures. Existing defense methods against adversarial attacks generally rely on low-rank graph structure reconstruction based on graph community preservation priors. However, existing graph structure adversarial defense methods cannot adaptively seek the true low-rank value for graph structure reconstruction, and low-rank graph structures are semantically mismatched with downstream tasks. To address these problems, this study proposes the over-parameterized graph neural network (OPGNN) method based on the implicit regularization effect of over-parameterization. In addition, it formally proves that this method can adaptively solve the low-rank graph structure problem and also proves that over-parameterized residual links on node deep representations can effectively address semantic mismatch. Experimental results on real datasets demonstrate that the OPGNN method is more robust than existing baseline methods, and the OPGNN framework is notably effective on different graph neural network backbones such as GCN, APPNP, and GPRGNN.

    参考文献
    相似文献
    引证文献
引用本文

初旭,马辛宇,林阳,王鑫,王亚沙,朱文武,梅宏.面向鲁棒图结构防御的过参数化图神经网络.软件学报,2024,35(8):3878-3896

复制
分享
文章指标
  • 点击次数:
  • 下载次数:
  • HTML阅读次数:
  • 引用次数:
历史
  • 收稿日期:2023-05-04
  • 最后修改日期:2023-09-16
  • 录用日期:
  • 在线发布日期: 2024-02-28
  • 出版日期:
文章二维码
您是第位访问者
版权所有:中国科学院软件研究所 京ICP备05046678号-3
地址:北京市海淀区中关村南四街4号,邮政编码:100190
电话:010-62562563 传真:010-62562533 Email:jos@iscas.ac.cn
技术支持:北京勤云科技发展有限公司

京公网安备 11040202500063号