—— 不再只说“AI应当向善”，而是追问“凭什么相信它向善”。

11月2日至5日，2026年世界互联网大会乌镇峰会在浙江乌镇举行。本届峰会设置开幕式、主论坛及27场分论坛，围绕人工智能、智能体互信互联互操作、数字治理、网络安全与国际合作等前沿议题展开深入交流。

近些年，技术热点从云计算、大模型演进至智能体，安全治理的核心问题也在不断深化：如何将技术创新转化为可信赖、可治理、可持续的数字能力？

在开幕式上，国务院总理李强强调：

技术创新越是加速，安全缰绳越要握紧。

这一论述揭示了人工智能发展的重要逻辑：安全是支撑技术规模化应用和长期发展的基础条件。

必须坚持人的主导性，让机器始终成为人类的可信工具。

进一步明确了人工智能治理的根本方向——技术应当服务于人的发展，其自主性必须建立在有效的人类监督与责任机制之上。

联合国主管经济和社会事务副秘书长李军华从全球发展视角指出，人工智能正在为医疗、农业和灾害治理创造新机遇，但数字鸿沟、虚假信息与技术风险同样值得关注。全球仍有超过22亿人尚未接入互联网，技术普惠与能力建设依然任重道远。

【CSA观察】人工智能时代的数字鸿沟，不仅体现为技术接入差距，更体现为安全能力、治理能力与人才能力的差距。推动负责任的技术创新，需要同步建设可信的技术体系、有效的治理机制和普惠的能力发展体系。

中国工程院院士、之江实验室主任王坚主持的"人工智能乌镇对话"。国际人工智能治理协会主席约翰·希金斯，DeepSeek研究工程师高熙，阿里巴巴千问大语言模型项目负责人刘大一恒，MiniMax 首席架构师冯雯共同探讨开放生态的未来。

为什么开源？高熙答得直接：“为了让 AGI 更快到来。”刘大一恒给出两条逻辑：加速创新、实现普惠——“开源不仅是开放了模型的使用权，也开放了每个人参与创造 AI 的权利。”王坚的判断更锋利：软件时代，中国更多是开源思想的受益者；人工智能时代，中国已成为重要的贡献者、引领者。

但开源不等于无边界。希金斯说，他并不认为开源模型的安全性一定更差，真正的考验在于——当模型被部署到医院、铁路、汽车等场景，“就必须建立在‘基于实证的信任’之上”。他建议建立共同的评估测试与跨国认证体系。

王坚收尾只有一句：开放的前提是可信、可控、可治理。

这场对话最值得记的一点，是它把“安全”从一个道德命题，还原成了工程与制度命题。开源把模型交给了全世界，那么谁来回答“这个模型到底安不安全”？关键在于建立公开透明、可重复测试、可验证的机制，让信任从主观承诺转变为客观证据。

【CSA观察】开源扩大了创新的参与范围，也使模型供应链、部署环境、应用集成和运行责任更加复杂。未来AI安全治理的重要基础，将是可衡量的安全能力、可复现的测试结果与可被核验的信任机制。

11月4日，中国国家互联网信息办公室会同有关方面提出《智能互联网创新发展合作倡议》，围绕技术创新、基础设施、智能体互信、数据流通、安全防护、数字素养及国际治理等八个方面提出合作方向。

倡议特别强调，推动建立覆盖智能体发现、协商、执行全生命周期的互信框架，促进跨平台、跨领域的可信协作；同时防范数据投毒、智能体行为失控等新型风险，将安全与伦理要求融入研发、部署和运维全过程。

随着人工智能从内容生成走向自主决策与任务执行，安全治理的重点正从单一模型扩展至智能体及其运行生态，核心在于三个方面：

· 主体可信： 确保智能体身份可信、权限明确。

· 行为可控： 约束自主决策、工具调用及跨系统操作风险。

· 责任可溯： 建立行为审计、风险追踪与责任认定机制。

【CSA观察】智能体的互联互通，不仅需要技术协议的兼容，更需要可验证的信任与安全治理机制。这一倡议与CSA人工智能安全成熟度模型（AISMM）所倡导的全生命周期安全治理理念相契合。通过覆盖AI资产、模型、数据、应用部署、运行监测及应急响应的系统性评估，帮助组织识别安全能力差距，建立持续改进机制。

安全成熟度的核心价值，不只是判断系统是否存在风险，更是衡量组织能否持续识别、控制和改进风险。

今年，CSA云安全联盟获颁五年“追光”纪念章。这枚纪念章不仅记录了CSA连续五年参与乌镇峰会的历程，也见证了数字安全产业从云计算安全向人工智能安全不断拓展的进程。

五年来，技术形态持续演进，安全治理的对象和边界不断扩展，但CSA所关注的核心始终如一。以开放合作推动安全创新，以专业标准建立信任，以能力建设支持技术发展。

从云安全到AI安全，从模型评估到智能体治理，从技术标准到组织成熟度，CSA将继续携手全球产业、学术与专业机构，推动安全技术、评估认证和人才能力体系的协同发展。

技术创新决定我们能够走多快，可信治理决定我们能够走多远。

五年追光，初心不变。

面向智能时代，CSA期待与更多伙伴携手，让开放建立在信任之上，让创新行稳致远。