11月12日，由北京大学计算机学院和中国科学院科技战略咨询研究院（以下简称战略咨询院）联合主办的“数字技术研发与应用的伦理规制”研讨会在战略咨询研究院901会议室顺利召开，来自北京大学、清华大学、南京大学、复旦大学、浙江大学、中国科学技术大学、北京理工大学、上海交通大学、中国政法大学、西南政法大学、中国科学院自动化研究所、北京协和医学院、中国社会科学院等单位的近30位专家参会。本次研讨会是为了推进中国科学院学部部署项目“数字技术的伦理研究”组织的专家研讨，研讨会由项目负责人梅宏院士、项目组成员谭铁牛院士共同组织发起。梅宏院士在致辞中提到，数字技术是一把“双刃剑”，其广泛应用的同时引发了一系列伦理风险与挑战。在此背景下，我们亟需构建数字世界的伦理秩序，以回应数字技术伦理治理的迫切需要。

当今世界正在经历一场源于信息技术的快速发展和广泛应用而引发的大范围、深层次的社会经济革命。然而，这一领域研究也产生了一系列伦理风险，受到国内外科学界的高度重视，特别是数字技术基础研究禁区、数字技术风险点位识别及治理重点划定、以及我国科技伦理治理体系高效运行等问题，需要自然科学、伦理学、政策科学、法学等领域的专家共同研讨，达成共识。为此，会议邀请各方专家共同参与，以寻求对于相关问题的共识和解决方案。会议设置主题报告和交流研讨环节。为加强跨学科对话，主题报告环节由生命科学、数字技术和社会科学领域的专家就会议主题分别作报告。

研讨会设置3个特邀报告，分别从生命科学领域、人工智能大模型研究、脑机接口等前沿科技领域探讨技术进展及其治理。中国医学科学院/北京协和医学院生命伦理学研究中心执行主任翟晓梅教授作了“生命科学研究禁区与红线划定的伦理学分析”的主旨报告，介绍了人与非人动物嵌合体、脑机接口技术、基因编辑等领域的研究禁区及相应的伦理学依据，并指出涉及科技的国内国际政策都应该是与时俱进的，以适应科技的迅猛发展和社会价值的转变。复旦大学计算机科学技术学院邱锡鹏教授作了“大语言模型的安全对齐”的主旨报告，分析了大语言模型的认知安全、社会安全和政治安全风险，构建了大语言模型的安全研究框架，提出要从不同阶段、不同层面提高AI安全性。浙江大学计算机科学与技术学院潘纲教授作了“脑机接口伦理治理的若干思考与浅见”的主旨报告，对脑机接口前沿技术进行了详细介绍，指出数字技术基础研究进行分级分类研究非常必要，认为应当充分利用现有人体医学研究伦理规范作为基础，多方面联合进行深入的实证研究，谨慎对基础研究阶段的技术划定红线。

战略咨询院、北京大学、南京大学等承担项目子课题研究的团队分别进行课题汇报。战略咨询院鲁晓研究员作了“数字技术的治理重点和安全护栏”的报告，介绍数字技术研发与应用的伦理规制问题，构建数字技术分级分类管理的评估指标体系，并据此梳理当前国内外法律法规所设定禁止性的、高风险的研发和应用清单，分析美国、欧盟、中国的数字技术治理措施、优先事项、发展态势。南京大学哲学系刘鹏教授作了“数字治理主体的伦理责任及其问题”的报告，认为在数字治理中数字技术是对象和手段的统一。指出从技术治理到数字治理的过程中，需要政府、社会组织、企业、高校、科研院所以及公民协同参与，建议通过全民数字素养与技能提升、强化制度保障、构建科技伦理教育体系等方式，提升数字治理的伦理敏感。复旦发展研究院研究员、复旦大学生命医学伦理学研究中心教授杨庆峰作了“数字技术的伦理研究项目中期汇报交流”的报告，汇报了课题组在人工智能医学影像伦理、人工智能辅助诊断、脑机接口、通用大模型伦理等领域的年度工作进展。

在交流研讨环节，与会专家就“数字技术基础研究禁区设置”“数字技术的伦理风险与治理重点”“国家科技伦理治理体系高效运行机制构建”等议题进行热烈讨论。与会专家认为，数字技术研究禁区设置具有必要性，是引领全球话语体系、获取公众信任、塑造科学家道德规范的重要方式。但是，数字技术研究禁区的设置有一定的难度，这主要是因为数字技术对社会生活的强渗透性、数字技术研发与应用的“旋转门”的短周期性以及禁区设置在实际应用中可行性、可操作性等的原因。基于此，专家们认为要充分考虑数字技术数字技术受众面广、推行快、范围广的特征，结合地缘政治、社会风险、经济发展等要素，统筹兼顾安全与风险关系，综合考量技术与社会风险，积极参与国际对话，跨学科协同开展实证研究，审慎、动态、场景化设置数字技术基础研究禁区。

针对治理体系的问题，专家强调制度建设的重要作用，要发挥有影响力的科学家在前瞻研判技术风险的作用；科学共同体要充分讨论、达成共识；搭建载体平台，强化多元主体的沟通交流；动态构建多层次的技术伦理规范体系；坚持包容审慎原则，引入沙箱监管，建立重大事件快速响应机制；加强国际合作，积极参与国际上相关法律法规和标准化制定工作；同时，专家建议要加强科普教育，将自律与他律贯穿于科技伦理治理过程中。

谭铁牛院士在发言中指出，科技本身没有善恶之分，关键在于“人”，在科技伦理治理中要规范人的行为，包括设立禁区、划定红线，这样才能确保科技向善；同时要统筹兼顾发展与安全的关系，不能因噎废食、因小失大；数字技术具有宽泛性，要针对数字技术的具体环节、细分领域设置相应的规制制度；在实践层面要确保伦理风险得到有效防范，通过技术加强安全测试，强化科研人员科技向善的意识和思维；要在系统梳理国内外在科技伦理治理规制的基础上，结合中国国情借鉴其经验。

梅宏院士做会议总结，他指出本次研讨会的目标是能同各专业领域同仁一起推动数字技术领域的持续健康发展，探索合理有效的监管举措和治理策略，在保障数字技术发展空间的同时，保证其在合理合规框架内的规范运行，并确保个人的尊严、自由、隐私等权益得到尊重和保护。