2024年12月24日，由中国信息通信研究院(简称“中国信通院”)主办，以“共筑安全屏障，共谋善治未来”为主题的2025中国信通院深度观察报告会“人工智能安全治理分论坛”在北京召开。

中国信通院院长余晓晖、工业和信息化部科技司副司长杜广达出席会议并致辞，中国信通院人工智能研究所所长魏凯主持会议。北京航空航天大学法学院教授、人文和社会科学高研院院长龙卫球，中国科学院自动化研究所研究员、联合国人工智能高层顾问机构专家曾毅，中国电信网络和信息安全管理部总经理谷红勋以及来自人工智能领域的专家学者和企业代表共百余人参会。

杜广达表示，人工智能技术加快演进，已成为新质生产力的引领性、战略性驱动力量。安全是进步的前提，进步是安全的保障。怎样促进人工智能更好造福人类、牢牢守住安全底线、以“智”促“治”，是大家迈给智能时代共同化解的重大难题。工业和信息化部愿和产业界一道，共同推动人工智能高质量进步和高水平安全良性互动：一是加强政策引导，推动行业自律，提高行业安全水位;二是推进技术攻关，加快建设人工智能安全风险防护工具箱，扩大安全公共产品供给;三是强化放开合作，围绕人工智能安全治理杰出操作加强探讨互鉴，给全球贡献“中国方法”和“中国聪明”。

余晓晖表示，人工智能安全治理的重要性已得到全球高度重视，正在从守则走给操作，中国信通院将在工业和信息化部领导下，紧紧围绕民族战略需求，推动相关研究和操作，完善人工智能风险管理体系，建立更加精准的安全风险识别机制;构建人工智能安全技术能力，通过技术来治理技术;推动国内产业协同共治，完善安全治理的标准体系，构建威胁情报共享机制，加强国际探讨合作。

主旨同享环节，龙卫球从技术和法益双重视角对人工智能规制进行深入剖析，指出现有科技风险法律制度在一定程度上适用于人工智能，但人工智能特殊的风险特性显著增加了规范的复杂性和挑战性，制定专门的应对机制成为决定因素。曾毅深入探讨了在人工智能技术快速进步背景下的伦理和安全难题，强调不仅应将安全视为人工智能进步的首要守则，还应从被动应对转给主动领会和践行道德，为人工智能的未来进步注入更多伦理思索。谷红勋同享了中国电信在人工智能安全治理中的操作经验，详细阐述了从技术实现到管理机制的综合安全保障措施，展示了企业怎样以安全测评等具体举措为抓手，提高主动识别和应对人工智能风险的能力，为行业进步提供了有力参考。

论坛期间，中国信通院公开了系列成果——深入研究人工智能安全治理方式论的“道”和技术工具的“术”，旨在为应对人工智能技术变革带来的复杂挑战提供有力支撑。会上正式公开《人工智能风险治理报告(2024年)——构建面给产业的人工智能安全治理操作方法》，中国信通院人工智能研究所呼娜英从风险认知、全球操作、产业操作、展望提议等方面对报告进行了解读。

除了这些之后，本论坛还邀请到中国社会科学院法学研究所网络和信息法研究室副主任周辉、对外经济贸易大学法学院教授张欣、中兴通讯顶级算法工程师杨柳、企鹅研究院首席数据法律专家王融以及中国信通院人工智能研究所工程师黑一鸣、郭苏敏、孙小童围绕人工智能的风险治理途径，大模型服务、智能体、AI手机等新应用的安全操作方法，以及生成式人工智能合规工具和MaaS数据可信研究等方面进行主题同享。

在圆桌讨论环节，21世纪经济报道王俊、中国信通院何波、阿里研究院傅宏宇、企鹅研究院赵子飞，以及行业代表朱玲凤、吴少卿围绕“产业对话：AI治理操作和未来进步愿景”展开了深入探讨。嘉宾们就技术创造和风险防控的平衡进行了热烈探讨，同享了在全球化背景下怎样应对不同法律体系和安全合规挑战。讨论内容为企业构建可持续的人工智能风险管理生态提供了真贵的指导思路。

未来，人工智能的安全治理亟需加强多方协同，凝聚各界聪明和力量。中国信通院将继续推动人工智能技术的安全进步，为产业界打造更加完善、高效的治理框架。和会各方表示，将在长期合作中携手应对人工智能技术带来的安全挑战，共同推动人工智能产业的健壮可持续进步。

（来源：中国信通院CAICT）