AI新威胁:神经网络后门攻击
深度学习模型具备天生的安全隐患,近些年的研究表明对输入深度学习模型的数据样本进行特殊处理后,可以导致模型产生错误的输出。因此这样的对抗样本实现了攻击深度学习模型的效果。如果我们在神经网络模型的训练过程中,采取数据投毒的方式对模型植入后门,也可实现攻击模型的目的。
深度学习模型具备天生的安全隐患,近些年的研究表明对输入深度学习模型的数据样本进行特殊处理后,可以导致模型产生错误的输出。因此这样的对抗样本实现了攻击深度学习模型的效果。如果我们在神经网络模型的训练过程中,采取数据投毒的方式对模型植入后门,也可实现攻击模型的目的。
在人工智能实践中,数据是载体和基础,智能是追求的目标,而机器学习则是从数据通往智能的技术桥梁。因此,在人工智能领域,机器学习才是核心,是现代人工智能的本质。
XAI技术主要研究如何使得AI系统的行为对人类更透明、更易懂、更可信,本文主要讨论了XAI的概念、必要性、关键技术,并简要介绍基于XAI打造可信任安全智能的思考。
大数据时代下的数据安全,不能简单看作一个传统的数据安全问题,应该看作一个新的安全问题——如何在满足数据安全和隐私保护的同时,去实现数据的流动和价值的最大化/最优化。进一步说,“鱼和熊掌兼得”(数据安全与价值挖掘)成为了大数据时代下的主旋律。
能源部作为联邦政府部门,主持能源部门的网络安全活动,避免网络安全攻击对能源部门产生灾难性影响,确保能源部基础设施的网络安全和恢复能力。
为推动任务实施,能源部发布了《网络安全战略》,以有效促进整个部门网络安全的协调发展及防御。鉴于该部门的独特结构和任务,该战略从能源相关的多个角度和各种经验入手,就网络安全达成了共识,建立了问责文化。
近日,国家互联网信息办公室发布的《数据安全管理办法(征求意见稿)》,对各方关注的数据安全问题的管理进行了直接回应。可见国家对数据安全的重视。
5G、云计算、物联网、人工智能、工业互联网和区块链等新兴技术飞速变革,以数字化、网络化为核心的信息变革深刻改变着世界,这个时代已经越来越离不开数据。数据量越大,安全保障的责任就越大。数据安全已经事关经济社会大局。
做好数据梳理是数据安全治理的第一步,也是关键的一步。通过数据梳理可以识别关键业务数据及其面临的风险,完善组织数据保护政策,有效落实数据安全管理规定,降低业务运营风险,建立动态可持续的数据安全运维管理保障体系。
如何做好数据梳理呢?
伴随屏幕里各大家族的激烈斗争,以及现实中关于世界历史遗产与民族主义的深入争论,网络世界中也在同步进行着一场没有硝烟的战争——攻击者利用这些时事热点,发起网络钓鱼诈骗攻击。
RSAC大会的热度似乎持续了一整个北京的春天,直播、新闻、技术解读、研讨活动让人应接不暇。从RSA大会官网上查询今年“Better.”主题的由来和背景,发现会议主题的设计虽然从字面似乎是表达“去年做的不错,今年再接再厉”的客观评价,不过更多的,是大会对安全行业“不忘初心”的鼓励。“最重要的是,永远不要忘记我们来到这里的根本原因:帮助确保一个更安全的世界,这样其他人就可以着手让世界变得更美好。” 看到这里,读者脑海中是否也回荡起Michael Jackson的经典歌曲“Heal the world, make it a better place…”闲言少叙,作为网络安全数据应用的研究者,常常会思考的一个问题,是怎么才叫安全智能,怎么才能让网络安全更智能(better)?
2019年3月4日,每年一度的RSA信息安全大会在北美如期举行,各界网络安全专业人士齐聚旧金山,其“better”主题词更展示出信息安全领域不断提升自我能力,寻求最优解决方案的美好愿望。今年的议题仍旧涵盖范围广泛,在众多议题当中,机器学习及AI在信息安全领域的应用仍然作为一个热门专题,广受关注。其中在“利用机器学习提升安全预判的准确性”的相关议题中,微软的资深专家Bugra Karabey分享的如何把机器学习作为分析工具在安全攻击分析中的应用切中目前机器学习在安全分析中主要发展方向,他们提出的一个场景“如何使用主成分分析聚类识别安全事件模式”引起我们的关注。
本届RSA大会“合规与风险治理”专题中大部分聚焦于网络安全风险的量化以及相关的实践案例,如Palo Alto Networks公司的Rich Howard 演讲《Superforecasting II: Risk Assessment Prognostication in the 21st century》,阐述了如何将半定量的风险评估转变为更深入的准确量化风险评估;《Math is Hard: Compliance to Continuous Risk Management》中分享构建量化风险管理的整个流程;另外在《NIST Cybersecurity Framework and PCI DSS》中介绍了PCI-DSS标准在CSF框架中的实践情况,指出标准至CSF的复杂映射关系的问题。