IDC在报告的选型建议中提出,企业需要关注从资产发现、风险评估、运行时防护、权限管控到审计溯源的完整流程。随着办公、研发、知识检索和客服等场景引入智能体,这些安全要求需要落实到具体业务。绿盟科技围绕相关需求持续完善“清风卫”系列产品方案,并于2026年10月发布AI安全检测与响应系统(AIDR)产品,着重加强对终端智能体运行安全行为的管理。

智能体进入业务流程,安全需要管到具体操作

让“办公助手”整理客户材料,往往需要开放文件读取权限;让“研发助手”排查系统问题,则可能涉及访问代码库、运行脚本。智能体要完成任务,就需要相应的权限。但它可以读取哪些文件、调用哪些接口、执行哪些命令,应当有明确的范围。

风险可能出现在一次看似正常的任务中。检索到的网页或文档里可能藏有诱导指令,影响后续操作;来历不明的技能插件可能夹带恶意代码;拥有较高权限的助手,也可能读取与任务无关的资料,或执行本不需要的系统命令。

企业需要把安全要求落实到智能体的实际工作过程,既检查模型输入输出,也管理数据访问和工具调用,并结合业务系统和智能体平台共同实施。

建议分步推进AI智能体系统安全建设

针对企业智能体安全建设,绿盟科技建议结合应用成熟度和业务风险分步推进,要求覆盖人员使用、模型交互、数据访问和操作执行等场景,涉及到敏感数据或高风险操作的应用,相关权限与操作控制应同步上线。

第一步,摸清资产,建立基础防护和上线评估。梳理企业使用的模型服务、AI应用、智能体及关联知识库、Skills插件和业务接口,排查未经批准使用的外部AI,明确责任部门、部署位置和数据范围;部署AI安全围栏等基础防护能力,检测提示词攻击、违规内容和敏感信息外发;在应用上线和重要变更前,开展安全评估、整改复测,同步记录用户身份、模型调用和策略处置等基础审计信息。

第二步,围绕任务约束权限和操作。关联使用者与智能体身份,按业务任务限定知识库、文件和API的访问范围,在检索和工具调用前校验授权,对Skills和工具实施安全检查与准入管理。对删除关键数据、修改重要配置、外发敏感文件等高风险操作设置人工确认和中止机制。核验终端、服务器、浏览器等不同访问路径的采集与控制范围,由身份系统、业务系统、智能体平台和安全产品共同落实。

第三步,把审计分析和持续验证纳入日常管理。在基础留痕之上,关联用户任务、模型交互、数据访问、工具调用及处置结果,便于追查异常和评估影响。针对新模型、新插件和业务流程变化开展AI红队测试与整改复测,持续检查防护效果、误拦截和响应时延。结合Token消耗监测、用量预警和限额措施,排查异常调用及资源滥用,兼顾业务效率与使用成本。

“清风卫”为智能体安全建设提供体系化能力

针对企业的建设需求,“清风卫”将安全评估、安全网关、安全围栏、智能体行为管理及AI红队评估工具与服务结合起来,支持上线前检查、运行中防护和持续验证。

图 绿盟科技“清风卫”智能体安全方案

IDC报告介绍了“清风卫”在智能体资产发现、插件安全检查和运行防护等方面的能力。通过这些能力的配合,企业可以逐步纳管AI应用,降低数据泄露、越权操作和资源滥用风险,并在发生异常时追查原因。

智能体进入办公和研发场景后,企业还需要了解谁在使用、访问了哪些数据、执行了什么操作。绿盟科技发布的AI安全检测与响应系统(AIDR),可以面向已适配、已纳管的终端智能体开展行为监测,对高风险操作按策略处置,并保留操作和处置记录,帮助管理员追查问题、判断影响范围。同时,AIDR还提供模型调用用量统计,帮助企业分析不同使用者和部门的消耗情况,排查异常使用行为,为成本管理提供依据。

未来,绿盟科技将结合客户实践,完善“清风卫”整体安全防护方案,加强安全评估、运行防护与审计的配合,并通过AI红队测试检验防护效果。针对模型、工具和业务流程的变化,及时调整防护策略,帮助企业在扩大AI应用的同时,降低安全风险,兼顾业务效率。

最后修改日期: 2026-11-11

作者