如何确保人工智能安全、可靠、可控?第四届北外滩网络安全论坛在沪举办

9月11日,由上海市委网信办指导,中国信息安全测评中心、上海交通大学共同主办的“2025第四届北外滩网络安全论坛暨网数智安全前沿科技与装备展”在上海世界会客厅启幕。今年的论坛和展览上,与蓬勃发展的人工智能和其面临的风险防控相关的话题备受关注。

作为论坛的重要组成部分,“网数智安全前沿科技与装备展”先声夺人。展会以“人工智能+安全”为核心切入点,通过全景式、沉浸式展示体验,集中呈现网数智安全领域的前沿装备、核心技术能力及典型应用案例。由上海人工智能研究院孵化的两家企业现场展现的装备,吸引了不少参观者的目光:“灵境智源”带来的国产端侧算力平台不仅可以提供高达1500TOPS的稠密算力,还可支持国产操作系统+实时核+机器人操作系统,实现全栈自主可控;而“灵巧智能”则展现了其开发的一款机械“灵巧手”。参观者们饶有兴致地在与机械手相连的镜头前做出各种手部动作,而一旁的机械手则一一同步复刻出来,准确程度让人惊叹。

“灵境智源”展示的算力产品。

“灵巧手”正在复刻参观者的手部动作。

同步进行的论坛设置了院士专场、专家演讲、圆桌对话、专业分论坛等多个专题环节,专家和行业人士们围绕网络空间安全新趋势、人工智能安全应用、关键信息基础设施防护、区块链技术发展与应用、网络安全与人工智能全球治理等多个议题展开深度研讨。

其中,几名院士的精彩演讲为现场观众们带来一场高水平的思想盛宴。中国工程院院士邬江兴剖析了网络安全防护的新方向,他认为我们需要更安全的数字产品,而不是更多的网络安全产品。因而,网络安全从产品的设计环节就应该纳入考虑,“人工智能的发展也是一样的”;黄殿中院士则认为,人工智能的武器化和人工智能脱离人类的掌控,是人工智能面临的最大的风险。从而,他提出“智能向善”的理念,技术向善、价值向善、伦理向善以及协同向善,是兼顾智能技术发展与安全平衡的路径;吴世忠院士聚焦“AI+行动”,提出要利用好人工智能技术来提升网络安全,让安全防护更高效、更敏捷、更智能;张学记院士以《智能传感—无尽的科学前沿》为题,分享智能传感在创新应用领域的最新研究成果。

同时,国内多位行业领域知名企业专家和领军人才围绕人工智能安全、大模型时代的国产算力产品等主题进行了精彩演讲;圆桌对话环节围绕“人工智能体系发展和治理”展开深入讨论,通过凝智聚力、汇聚共识,开启深化安全治理合作的新篇章。

此外,论坛特别开设区块链安全与监管分论坛,邀请内地及港、澳地区网络安全领域知名研究机构与企业专家,围绕数字货币与加密货币安全监管、区块链技术前沿实践、多场景下区块链安全监测与溯源等热点方向展开交流。与会嘉宾结合实际案例分享技术应用经验,深入探讨前沿技术赋能产业安全发展的落地路径,为推动区块链安全治理合作搭建沟通桥梁。

本届论坛以“网数迭代 智引未来”为主题,既是对前三届论坛成功经验的传承延续,更是紧跟中央关于网络安全、数据安全和人工智能安全工作部署,紧扣数字时代发展脉搏的生动实践。据统计,本届论坛吸引了500余名网络安全、数据安全及人工智能领域顶尖专家学者、行业领军人物和政策制定者参与研讨,近1500人参观网数智安全前沿科技与装备展。开幕式上还发布了《2025第四届北外滩网络安全论坛倡议书》,为业界发展凝聚共识、凝结合力提供了重要的行动参考。未来,论坛将持续发挥平台优势,助力构建更为完善的网数智安全防护体系,为数字中国建设和中国式现代化注入强劲的网数智安全动能。

原标题:《如何确保人工智能安全、可靠、可控?第四届北外滩网络安全论坛在沪举办》

本文作者:解放日报 毛锦伟