计算机学院系列讲座名家讲坛第34期——Security and Privacy in the Age of Artificial Intelligence 人工智能时代的安全与隐私

报告题目(Title)：Security and Privacy in the Age of Artificial Intelligence 人工智能时代的安全与隐私

时间(Date & Time)：2026.7.3; 2:30 – 4:00pm

腾讯会议：840 941 341

主讲人(Speaker)：罗骏

邀请人(Host)：张大庆

报告摘要(Abstract)：

上个世纪互联网开始兴盛之时，由于安全与隐私没有得到足够重视，导致接下来几十年间业界不断为互联网打上各种安全补丁。如今新一轮的技术兴盛正在到来，我们应该在为之欢呼的同时并行考虑人工智能对安全到底意味着什么。在这个报告中，我们从三个方向初步探讨这个议题。首先，我们从Wi-Fi感知入手，了解深度学习技术是如何使得感知技术成为有效的安全攻击手段，以及如何运用同样的技术达成可能的应对策略。随后，我们展示新兴的人工智能技术对于自动和智能驾驶系统（具身智能 Embodied AI的两大应用之一）可能构成何种的威胁。这一部分学界并没有很权威的对抗手段，而我们正在尝试使用大模型的全面知识覆盖来应对这些安全威胁，但与此同时我们却发现大语言模型（Large Language Models，or LLMs）本身亦存在难以避免的安全漏洞。于是在本报告的最后一部分，我们系统性地讨论目前对大模型的最致命威胁：越狱攻击（Jailbreak）。我们在提出两类具有宽泛适用性的越狱攻击之后，也尝试着提出如何通过大模型自身结构的调整来提到对这种攻击的韧性。

主讲人简介(Bio)：

罗骏博士现任南洋理工大学（NTU）计算与数据科学学院（CCDS）教授，他同时也是国际电气与电子工程学会（IEEE）、国际人工智能科学院（AAIS）、国际人工智能产业联盟（AIIA）的会士。罗教授于1997年毕业于清华大学电气工程专业，2000年获得该专业硕士学位，2006年获得瑞士联邦理工学院（EPFL）计算机科学博士学位。此后，罗教授在无线感知、机器学习、计算系统集成等科研方向辛勤耕耘二十载，为国际学术界在移动与普适计算和智能感知领域做出了扎实的贡献。二十年间，罗教授主持并参与了多项（新加坡）国内及中新跨国合作的大型科研项目，其项目成果包含多个产业化平台、数十项国际专利；同期发表超过200篇的国际顶级会议和学术期刊论文，并以此获得超过13,000次的谷歌学术（Google Scholar）索引，且至今连续六年蝉联美国斯坦福大学评选的「全球前2% 顶尖科学家 “终身科学影响力” 和 “年度科学影响力”」榜单。罗教授是多个学术刊物的编委会成员，也参与组织了不少国际学术会议，并曾获得国际计算与通信安全大会（ACM CCS）的基础论文奖。

欢迎关注计算机学院微信公众号，了解更多讲座信息！

北京大学计算机学院