7月1日,全国网络安全标准化技术委员会发布《关于下达13项规范类指导性技术文件计划的通知》,绿盟科技牵头申报的《网络安全技术 大模型安全网关产品安全指南》(以下简称“《指南》”)成功获批立项,并开始征集参编单位。
在人工智能技术快速落地的背景下,确保大模型应用的安全性与合规性已成为行业的共同挑战。《指南》正是在这一背景下启动的,它不仅为产品研发提供了方向,也标志着大模型安全治理从“单点探索”进入了“有据可依”的新阶段。当前大模型应用面临着提示词注入、训练数据泄露、模型越狱等全新的AI原生安全风险,该《指南》预期也将全面针对大模型输入输出检测与过滤、生成合成内容合规检测、推理过程行为监控以及敏感数据防泄漏等关键场景的风险识别与管控进行设计,支持推动各行业大模型应用安全落地。
与本通知一起发布的,还有绿盟科技成功参编的《网络安全标准实践指南——智能体部署使用安全指引》,该《实践指南》给出了评估、准备、部署、使用、停用等阶段的智能体部署使用安全指引,适用于智能体部署使用的安全风险防范,也可为选择使用商业智能体服务提供参考。
本次牵头大模型安全领域国家标准的制定,既标志着绿盟科技在标准化建设领域迈上全新高度;也充分彰显了公司以大模型安全产品研发,引领安全产业发展方向的硬核实力。未来,绿盟科技将继续锚定技术前沿赛道,以标准化建设为重要抓手,不断迭代完善大模型安全技术与产品体系,积极推动标准成果向产业落地转化,为我国网络安全产业的规范健康发展持续贡献力量。
