计算机学院系列讲座名家讲坛第10期——大模型与国产算力

报告题目(Title)：大模型与国产算力

时间(Date & Time)：2023.12.13 10:00

地点(Location)：理科二号楼2736（燕园校区） Room 2736, Science Building #2 (Yanyuan)

主讲人(Speaker)：翟季冬

邀请人(Host)：刘譞哲

报告摘要(Abstract)：

随着人工智能模型的不断发展，其对算力的需求也在持续增大。然而，鉴于当前的国际关系，中国在获取最先进的芯片方面面临巨大的挑战。如何充分发挥和优化国产算力，以满足大模型对算力的需求，具有重要意义。针对此挑战，我们在新一代国产超级计算机上，从底层算子库、并行加速库、负载均衡和混合精度等多方面对大模型进行了深入优化，训练了世界最大规模--百万亿级参数的预训练模型，达到了EFLOPS的训练吞吐量。

主讲人简介(Bio)：

翟季冬，清华大学计算机系长聘教授，博士生导师。国家杰出青年科学基金获得者。清华大学计算机系高性能所副所长，ACM中国高性能计算专家委员会秘书长。主要研究领域包括高性能计算、性能评测和编译优化等。研究成果发表在相关领域顶级学术会议和期刊——SC、ICS、PPOPP、ASPLOS、MICRO、OSDI、ATC、IEEE TC、IEEE TPDS等。研究成果获IEEE TPDS 2021最佳论文奖、IEEE CLUSTER 2021最佳论文奖、ACM ICS 2021最佳学生论文奖等。担任NPC 2018程序委员会主席、IEEE CLUSTER 2021领域主席、SC 2022领域副主席，SC、ICS、PPOPP、PACT等国际学术会议程序委员会委员。目前担任IEEE TC、IEEE TCC等多个国际学术期刊编委。现为CCF杰出会员、IEEE高级会员、CCF秀湖论坛AC。担任清华大学学生超算团队教练，指导的团队十三次获得世界冠军。获教育部科技进步一等奖、中国计算机学会自然科学一等奖、CCF-IEEE CS青年科学家奖。

欢迎关注计算机学院微信公众号，了解更多讲座信息！

北京大学计算机学院