计算机学院系列讲座菁英论坛第39期——人工智能安全演进——从分类模型到生成式模型

报告题目(Title)：人工智能安全演进——从分类模型到生成式模型

时间(Date & Time)：2024.12.20; 10:00-11:30

地点(Location)：理科一号楼1504（燕园校区）Room 1504, Science Building #1 (Yanyuan)

主讲人(Speaker)：杨子祺

邀请人(Host)：李锭

报告摘要(Abstract)：

近年来，人工智能发展从传统分类模型步入到生成式人工智能大模型，并促进了各种行业的发展，改变了已有生产生活模式。但是，人工智能发展带来的安全问题不容忽视。本报告从人工智能安全演变的角度，围绕对抗攻击、隐私推断、越狱攻击、内容合规检测等安全问题，分析了传统分类模型与新兴生成式人工智能模型在发展应用中面临的威胁与挑战。

主讲人简介(Bio)：

杨子祺，浙江大学网络空间安全学院百人计划研究员，博士生导师。主要从事人工智能安全、大模型安全、合成内容标识溯源等领域的研究工作，此外，在人工智能与信息安全交叉研究领域，他研究了多个前沿热点方向，包括二进制代码分析、安卓代码分析、web安全加固等。近年来，他以第一和通讯作者发表的高水平学术论文包含信息安全领域四大顶会IEEE S&P、USENIX Security、ACM CCS以及人工智能顶级会议 AAAI 等国际顶级会议论文。现担任信息安全领域四大顶会 IEEE S&P 2025 程序委员会委员、网络与信息安全领域顶级期刊 IEEE TDSC、 ACM TOPS 评审，信息安全领域四大顶会 NDSS 审稿人，并担任人工智能顶会AAAI、深度学习安全国际会议 DLS 等国际会议程序委员会委员。

欢迎关注计算机学院微信公众号，了解更多讲座信息！

北京大学计算机学院