报告嘉宾：吴保元 (香港中文大学(深圳))
报告时间：2026年3月25日 (星期三)晚上20:00 (北京时间)
报告题目：大模型与智能体系统安全
报告人简介：
吴保元博士现任香港中文大学 (深圳)人工智能学院终身副教授、助理院长 (科研)，并担任深圳河套学院双聘教授。其研究方向包括可信人工智能、机器学习和计算机视觉，在人工智能的顶级期刊和会议上发表论文120余篇，包括权威期刊TPAMI、IJCV 15篇，谷歌学术引用13000余次。其担任人工智能领域国际期刊IEEE TIFS高级领域编委、第五届中国模式识别与计算机视觉大会PRCV 2022组委会主席、国际顶级学术会议CVPR、NeurIPS、ICLR、ICML、AAAI领域主席、中国自动化学会模式识别与机器智能专委会副秘书长，连续多年入选斯坦福大学“全球前2%顶尖科学家”榜单。作为项目负责人承担科技部重点研发计划重点专项课题、广东省杰青、广东省科技创新青年拔尖人才、国家自然科学基金面上等多项课题，并与腾讯、华为、快手等知名企业建立长期科研合作。荣获2023年度香港中文大学 (深圳)青年科研奖。
个人主页：
https://sites.google.com/site/baoyuanwu2015/home
报告摘要：
本次讲座以基于生命周期的对抗机器学习统一框架为切入点，简要梳理传统机器学习的安全演进。近年来，大模型与智能体系统展现出强大的通用智能，这不仅重塑了对抗鲁棒性的研究内涵，也催生了新的安全挑战。讲座将聚焦两方面前沿探索：一是针对推理大模型与生成大模型对抗鲁棒性的最新研究成果；二是探讨GUI Agent、Openclaw等真实智能体系统在面对对抗攻击时所引发的现实安全 (Safety)问题。
参考文献：
[1] Defenses in Adversarial Machine Learning: A Systematic Survey from the Lifecycle Perspective, Wu, Baoyuan (corresponding author); Zhu, Mingli; Zheng, Meixi; Zhu, Zihao; Wei, Shaokui; Zhang, Mingda; Chen, Hongrui; Yuan, Danni; Liu, Li; Liu, Qingshan, IEEE Transactions on Pattern Analysis and Machine Intelligence (TPAMI), 2026.
[2] Attacks in Adversarial Machine Learning: A Systematic Survey from the Life-cycle Perspective, Wu, Baoyuan (corresponding author); Zhu, Zihao; Liu, Li; Liu, Qingshan; He, Zhaofeng; Lyu, Siwei, International Journal of Computer Vision (IJCV), 2026.
[3] AdvChain: Adversarial Chain-of-Thought Tuning for Robust Safety Alignment of Large Reasoning Models, Zhu, Zihao; Wu, Xinyu; Hu, Gehan; Lyu, Siwei; Xu, Ke; Wu, Baoyuan (corresponding author), International Conference on Learning Representations (ICLR), 2026.
[4] Test-Time Poisoned Sample Detection by Exploiting Shallow Malicious Matching in Backdoored CLIP, Song, Zhengyao; Zheng, Meixi; Xu, Ke; Li, Yongqiang; Wu, Baoyuan (corresponding author), International Conference on Learning Representations (ICLR), 2026.
……
