2026 TechWorld

随着人工智能从“生成式AI”迈向“智能体AI”阶段,2026年成为智能体规模化落地的元年,也把一系列全新的“安全考题”摆到了全行业面前。10月21日下午,2026 TechWorld智慧安全大会的平行论坛——AI自身安全专题论坛在北京举行。论坛紧扣紧扣“让智能更安全”主题,从治理标准、产业实践、产品方案、平台场景、学术前沿到长效治理,展开一场全链条的深入研讨,与同期举办的“AI赋能安全”专题论坛相呼应,共同构成绿盟科技AI安全“双轮驱动”的完整叙事。

绿盟科技集团副总裁宫智发表致辞,中国电子技术标准化研究院网络安全研究中心副主任周睿康;中国移动研究院安全研究所首席专家杨波;新浪微博安全技术负责人余海宁;中国传媒大学数据智能与网络安全研究院副研究员张润滋;绿盟科技集团AI&云安全中心总经理何坤;绿盟科技集团首席创新官刘文懋发表主题演讲。

绿盟科技集团副总裁宫智在致辞中指出,过去一年AI正在从“会说”走向“会做”,数字员工、智能体不再只是会说话的助手,而是能够自主决策、调用工具、执行任务的行动者;当助手变成行动者,安全的逻辑也随之改变,过去主要管住它“说什么”,现在更要管住它“做什么”,身份冒用、数据外泄、行为失控等风险,正在从报告里的词汇变成眼前实实在在的问题。

面对AI自身安全这一全新战场,宫智带来“绿盟答案”:以多年在大模型与智能体安全上的积累凝聚而成的“清风卫”AI安全一体机战略框架,并以AI-SCAN大模型安全评估系统、AI-UTM安全一体机、AI-GR大模型安全围栏、AIDR智能体检测与响应四大核心产品为支撑,配套十余项产品与服务,覆盖AI应用从开发、部署到运行的全生命周期,形成从发现、防护到响应的完整智能体安全防线。与此同时,绿盟科技持续完善大模型安全综合治理战略框架,推出备案评估、红队评估等全流程服务,帮助客户应对大模型与智能体应用中的安全挑战。

绿盟科技集团副总裁 宫智

系统打造健康有序的人工智能创新生态,是我国迈向人工智能强国的关键命题,而AI要安全落地,首先要有“标尺”。中国电子技术标准化研究院网络安全研究中心副主任周睿康在《关于人工智能安全治理及标准化工作的思考》中,通过分析人工智能安全风险的演进态势与国际安全治理动态,提出了“标准支撑、技管结合”的治理范式,充分发挥标准衔接政策法规与产业实践的桥梁作用。结合我国大模型备案、生成合成内容标识等重点标准,他介绍了“1+1+N”技管结合的落地实效,并积极展望下一步完善AI安全标准体系、提升治理效能的工作方向。

中国电子技术标准化研究院网络安全研究中心副主任 周睿康

在治理标准之后,是产业的落地实践。如何保障智能体安全从技术研究走向工程实践,需要体系化的方案支撑。中国移动研究院安全研究所首席专家杨波在《智能体安全研究与实践》中,围绕人工智能安全治理、智能体安全体系等方向,分享了运营商作为数字基础设施建设者和运营者,在智能体安全领域真实而前沿的研究与实践成果。

中国移动研究院安全研究所首席专家 杨波

智能体安全最终要落到能交付、可落地的产品方案上。绿盟科技集团AI&云安全中心总经理何坤在《绿盟清风卫:从大模型到智能体的安全挑战与应对思考》中指出,从大模型到智能体,AI应用的发展正在带来新的安全挑战,也对安全防护提出新的要求;他结合清风卫的产品设计与落地经验,分享防护思路与实践,探讨如何更好兼顾安全合规、业务创新与应用成本,为AI应用的安全落地提供参考。

绿盟科技集团AI&云安全中心总经理 何坤

AI自身安全在大型互联网平台上,有着最一线的切肤实践。新浪微博安全技术负责人余海宁在《从使用到执行——大型互联网平台AI应用与智能体安全实践》中表示,随着AI加速进入研发、办公和业务场景,互联网平台逐渐形成多模型、多入口、多工具并存的应用生态,Skill、MCP、CLI等能力推动AI从内容生成走向工具调用和任务执行,也带来入口分散、数据外泄、工具供应链及越权访问等风险。结合平台实践,他介绍了终端AI入口治理、AI安全网关及智能体工具安全检测的建设思路,探讨如何实现AI使用可管、调用可控、执行可信、全程可审计。

新浪微博安全技术负责人 余海宁

当智能体真正“动起来”,静态安全分析方法的局限性愈发凸显。中国传媒大学数据智能与网络安全研究院副研究员张润滋在《智能体动态行为空间建模与安全风险识别》中指出,智能体行为模式正由相对固定的规则驱动,转向面向环境和任务的动态生成,呈现出更强的自主性、动态性和不确定性,也让传统基于静态权限和固定规则的安全分析方法面临新的挑战。他从智能体认知模式与行为规律出发,研究智能体动态行为空间的建模与刻画问题,为理解智能体在复杂任务过程中的行为演化规律及潜在安全风险提供新的分析基础,也让风险识别从“经验判断”走向“可计算”成为可能。

中国传媒大学数据智能与网络安全研究院副研究员 张润滋

探讨至此,目光需要投向更长远的未来——AI安全如何从零散的单点防护,走向可长期运转的全域治理,是多行业智能体规模化落地必须回答的问题。绿盟科技集团首席创新官刘文懋在《可信可控的AI长效安全治理:多行业智能体应用落地的思考与展望》主题演讲中,以《人工智能安全治理框架3.0》为治理导向,结合多行业AI落地的一线实践,梳理了AI自身安全建设里的共性规律、行业差异和真实诉求;他从AI Infra、身份权限、意图对齐等方面探讨短期、中期和长期的技术突破点,提出以实战化演练环境、AI红队工具和有效性验证构建AI防护成熟度提升飞轮,并针对行业特点倡导编写智能体安全落地指南。

绿盟科技集团首席创新官 刘文懋

从治理标准到产业实践,从产品方案到平台场景,从学术建模到长效治理,这场横跨主管机构、运营商、互联网平台、高校与网安厂商的对话,完整勾勒出AI自身安全的方法论版图。

一缕清风卫智能,共筑防线护安宁。当智能体从屏幕里走进业务深处,安全不能再是外挂的补丁,而必须成为智能体与生俱来的“免疫系统”。面向未来,绿盟科技愿与各界伙伴一道,为AI自身安全领域的持续发展贡献力量,共同迎接更加智能、更加安全的新时代。

最后修改日期: 2026-10-22

作者