西电主页 English 宣传部 开云app串关
开云登录入口官网
表格等宽内容时,请左右滑动 <>
【创新西电】网信院李兴华教授团队最新研究成果被人工智能国际顶会ICCV录用
时间:2025-10-24 10:52:34来源:网络与信息安全学院点击:

西电新闻网讯通讯员 张蕾近日,西电网信院李兴华教授团队的最新研究成果“SPD: Shallow Backdoor Protecting Deep Backdoor Against Backdoor Detection”被ICCV 2025国际学术会议全文收录。

国际计算机视觉大会(International Conference on Computer Vision,简称ICCV,是国际公认的计算机视觉领域旗舰会议,被中国计算机学会(CCF)列为A类会议。该会议收录的论文代表着相关领域的最前沿学术研究成果,在业界具有广泛而深远的影响。ICCV 2025共收到11,239篇有效投稿,经过严格评审,最终录用高质量论文2698篇,整体录用率约为24%。

西电的博士研究生袁顺杰为论文的第一作者,导师李兴华教授为通讯作者。新加坡管理大学的Robert H.Deng教授,西电博士研究生章海燕、朱孟垚,西电曹雪琳副教授为论文的合作者。

该论文针对神经网络后门攻击对抗检测技术展开研究。现有的后门攻击方法虽然能够在模型中成功植入后门,但往往难以同时规避后门检测与人类视觉检查,导致模型中所植入的后门容易暴露,防御者进一步可以通过剪枝或微调技术移除后门,从而显著降低后门的攻击效果。针对上述问题,论文提出了一种新型的后门攻击方法。该方法遵循“浅层掩护深层”的设计思想,通过在频域与像素域分别构建深层后门与浅层后门,实现对深层后门的隐蔽保护。其中,深层后门在频域中从特定高斯分布中采样,并利用自编码器将采样结果嵌入图像振幅分量的强度中,以此作为后门触发器,从而确保攻击的不可见性。浅层后门则采用传统的基于图像块的触发方式,覆盖分类任务的所有类别,主动吸引防御者的注意力,从而在检测过程中充当“防火墙”,有效掩护深层后门免受检测。

为验证所提后门攻击方法,论文分别使用多种先进的后门检测技术进行了实验评估。结果表明,该方法不仅能够有效抵御现有检测手段,而且由于其触发器对正常样本的扰动极小,整体攻击具有很高的视觉隐蔽性,使后门能够绕过人类视觉审查。

这项工作向外界充分展示了西电在人工智能安全领域的最新研究成果,标志着西电在该领域的研究得到国际同行的进一步认可。

上一条:西电师生热议党的二十届四中全会
下一条:聚焦丨权威发布!二十届四中全会公报

【创新西电】网信院李兴华教授团队最新研究成果被人工智能国际顶会ICCV录用
发布时间:2025-10-24 10:52:34来源:网络与信息安全学院点击:我要评论:

西电新闻网讯通讯员 张蕾近日,西电网信院李兴华教授团队的最新研究成果“SPD: Shallow Backdoor Protecting Deep Backdoor Against Backdoor Detection”被ICCV 2025国际学术会议全文收录。

国际计算机视觉大会(International Conference on Computer Vision,简称ICCV,是国际公认的计算机视觉领域旗舰会议,被中国计算机学会(CCF)列为A类会议。该会议收录的论文代表着相关领域的最前沿学术研究成果,在业界具有广泛而深远的影响。ICCV 2025共收到11,239篇有效投稿,经过严格评审,最终录用高质量论文2698篇,整体录用率约为24%。

西电的博士研究生袁顺杰为论文的第一作者,导师李兴华教授为通讯作者。新加坡管理大学的Robert H.Deng教授,西电博士研究生章海燕、朱孟垚,西电曹雪琳副教授为论文的合作者。

该论文针对神经网络后门攻击对抗检测技术展开研究。现有的后门攻击方法虽然能够在模型中成功植入后门,但往往难以同时规避后门检测与人类视觉检查,导致模型中所植入的后门容易暴露,防御者进一步可以通过剪枝或微调技术移除后门,从而显著降低后门的攻击效果。针对上述问题,论文提出了一种新型的后门攻击方法。该方法遵循“浅层掩护深层”的设计思想,通过在频域与像素域分别构建深层后门与浅层后门,实现对深层后门的隐蔽保护。其中,深层后门在频域中从特定高斯分布中采样,并利用自编码器将采样结果嵌入图像振幅分量的强度中,以此作为后门触发器,从而确保攻击的不可见性。浅层后门则采用传统的基于图像块的触发方式,覆盖分类任务的所有类别,主动吸引防御者的注意力,从而在检测过程中充当“防火墙”,有效掩护深层后门免受检测。

为验证所提后门攻击方法,论文分别使用多种先进的后门检测技术进行了实验评估。结果表明,该方法不仅能够有效抵御现有检测手段,而且由于其触发器对正常样本的扰动极小,整体攻击具有很高的视觉隐蔽性,使后门能够绕过人类视觉审查。

这项工作向外界充分展示了西电在人工智能安全领域的最新研究成果,标志着西电在该领域的研究得到国际同行的进一步认可。

责任编辑:唐羽琴
本月热点
Baidu
map