正在阅读: 戴上“白帽子” 人工智能投身网络安全攻防战
首页> 科普频道> 科普头条 > 正文

戴上“白帽子” 人工智能投身网络安全攻防战

来源:科技日报2019-04-15 09:09

调查问题加载中,请稍候。
若长时间无响应,请刷新本页面

  面对计算机系统和网络的缺陷和漏洞,黑客们找准机会实施攻击,白帽黑客则利用黑客技术来测试网络和系统的性能以判定它们能够承受入侵的强弱程度。短短几年时间,人工智能已进驻多个行业,落地无数场景。其中一些行业和场景已为大家所熟知,还有一些正在进入我们的视野,在网络安全领域,AI“白帽”正成为网络安全工程师的得力助手。

  据报道,近日美国市场调研公司CB Insights发布报告预测了2019年人工智能行业的发展趋势,其中一个趋势便是用人工智能发现网络威胁。

  正在赋能网络安全

  “人工智能技术的蓬勃发展,为网络安全攻防带来的,不仅有机遇,也有挑战。”北京理工大学网络攻防对抗技术研究所所长闫怀志接受科技日报记者采访时说。

  先说好的一面。360安全研究院邹权臣博士告诉科技日报记者,目前人工智能已经应用于恶意代码检测、恶意流量检测、威胁情报收集、软件漏洞挖掘等网络安全领域。

  “例如在恶意代码检测方面,人工智能通过对恶意程序的API调用序列、系统CPU利用率、收发的数据包等信息,自动识别恶意代码的特征,进而判定分类。”邹权臣介绍,相比于传统的基于动静态分析的特征检测、启发式检测技术,人工智能可以大幅度提升检测的准确率。

  360安全研究院研究员张德岳介绍,在软件漏洞挖掘方面,采用人工智能技术从漏洞相关的数据中提取经验和知识,并用训练好的模型提高漏洞挖掘的精度和效率,可以缓解当前该领域研究遇到的一些瓶颈问题,具体应用场景包括漏洞程序筛选、源代码漏洞点预测等。

  “人工智能在网络安全领域的应用日益广泛,运用人工智能赋能网络空间安全,主要体现在主动防御、威胁分析、策略生成、态势感知、攻防对抗等诸多方面。”闫怀志说,其中包括采用人工神经网络技术,来检测入侵行为、蠕虫病毒等安全风险源;采用专家系统技术,进行安全规划、安全运行中心管理等;此外人工智能方法还有助于网络空间安全环境的治理,比如打击网络诈骗。

  具备明显“过人之处”

  与传统的应对网络安全的方式相比,人工智能确实展示了其“过人之处”。

  在闫怀志看来,人工智能方法在解决人力所不及的安全大数据统计和抽取规律方面具备天然优势,它能够全面提高威胁攻击的识别、响应和反制速度,提升风险防范的预见性和准确性。特别是在异常行为检测等应用场景模糊的非精确识别和匹配方面,更是如此。

  “人工智能针对未知威胁和攻击的检测也更出色。因为传统的特征匹配方法对未知威胁几乎无能为力,而人工智能方法有时不需要先验知识,对未知威胁的检测能力较强。”闫怀志说。

  不得不说,人工智能系统还具备成本效益优势。闫怀志认为,人工智能可以在第一时间发现和识别预防威胁,并立即启动应急响应,高效的智能检测流程有助于减少人工参与、简化流程、降低成本、减小损失。

  “传统的应对网络安全的方法依赖于人工硬编码定义、提取特征的方式完成相关任务,而人工智能可以直接对原始数据进行训练,从大量的数据中提取特征,自动完成分类判定的工作。”张德岳说,如此一来后者既可以提高网络安全中预测、防范、检测、销控等各个风险环节的自动化和智能化程度,又能提升响应速度和判定的准确率。

  不能靠它包打天下

  “虽然人工智能搅动了网络安全领域的一池春水,但是应该理性看待人工智能在应对网络安全方面的优缺点,不能指望全靠人工智能来包打天下。”闫怀志说,人工智能在应对网络安全问题时,也有较强的局限性。

  邹权臣分析,这一方面受限于人工智能算法本身的能力。因为传统的机器学习技术依赖特征提取,而算法的效果和性能又依赖识别和提取特征的准确性。深度学习具有在高维数据中自动提取特征的能力,同时面临着持续学习、数据饥饿、可解释性等问题。

  “另一方面机器学习、特别是深度学习过分依赖数据,但在恶意代码检测、软件漏洞挖掘等领域,目前仍然存在数据收集困难的问题,缺少较好的数据集用于训练,影响对相关领域的研究。”邹权臣补充说,另外人工智能严重依赖于耗费计算资源,复杂的深度学习网络需要同时计算成百上千万次的计算,需要强大的人工智能芯片计算力的支撑。

  闫怀志则从不同方面总结了人工智能的不足。比如,易于忽视或者抛弃人类专家在网络安全领域的知识和经验积累,对网络安全的复杂应用场景考虑不足,对于已知威胁的检测效率远低于传统的精确特征识别方法等。

  “使用神经网络和深度学习等算法,能够较好地识别出未知攻击威胁风险,达到‘知其然’的目的,但是这些算法通常无法揭示产生这种安全风险的基本机理,也就是‘不知其所以然’,从而为从源头防御这种攻击风险带来极大障碍。”闫怀志说。

  脆弱面带来安全风险

  人工智能在应对网络安全问题时,有时甚至会展现出脆弱的一面。

  “一个真实环境中的人工智能系统,会面临数据安全、模型/算法安全、实现安全等多方面的安全威胁。”张德岳告诉科技日报记者。

  张德岳举例说,在数据安全方面,在数据收集与标注时出现错误或注入恶意数据,将导致数据污染攻击;在模型/算法安全方面,针对人工智能算法存在黑盒和白盒对抗样本攻击,可导致识别系统出现混乱;在实现安全方面,除了人工智能系统本身的代码实现,其所基于的人工智能框架以及所依赖的第三方软件库中的软件实现漏洞,也都可能导致严重安全问题。

  “人工智能对现有网络安全格局的影响,离不开算法、数据和计算能力3个方面,其容易遭受攻击的弱点也来自于此。”闫怀志总结说。

  对于防范人工智能的脆弱性所带来的安全风险,闫怀志指出:首先要从体系架构、系统算法容错容侵设计、漏洞检测和修复、安全配置等方面来增强人工智能系统自身的安全性;其次,要用其所长,尽量减小其暴露给外界的潜在攻击面;最后要构建网络空间安全综合防御体系,从安全技术和安全管理等层面来协同防范安全攻击,间接减缓攻击者直接针对人工智能系统发起攻击以及攻击成功的可能性。

  来自360安全研究院的专家也给出多个建议,其中包括:在数据获取过程中,要加强对数据来源的控制与过滤,在一定程度上保证数据安全可靠;在数据传输过程中,要使用更加安全的传输协议与加密算法;在人工智能系统的实现中,要保证代码质量并进行完善的测试,此外还要及时更新或修补框架或依赖库中存在的漏洞等。(记者刘园园)

[ 责编:张蕃 ]
阅读剩余全文(

相关阅读

您此时的心情

新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0
  • 视觉焦点

  • 贵州台江:欢度苗族姊妹节

  • 北京“丝路金桥”主题景观点亮灯光

  • 独家策划

  • 推荐阅读
    在我们的身体里,每时每刻都上演着细胞分裂、衰老和死亡的戏码,而广泛存在于人体脂肪、骨髓、关节等部位的间充质干细胞,在其中扮演了特殊的角色。有研究表明,骨关节炎的一个重要诱因是关节内的间充质干(前体)细胞、软骨细胞、滑膜细胞的衰老和功能退化。
    2019-04-19 10:00
    赤道几内亚的比奥科岛将是疟疾疫苗试验的主要场所。在实验室研究中,这种名为PfSPZ的疫苗已被证明是迄今开发的最有效的疟疾疫苗,能够为健康的志愿者提供完全的保护。如果大规模试验获得成功,Sanaria公司及其合作伙伴打算向比奥科岛上所有人群推广这种疫苗,并评估其有效性。
    2019-04-19 10:00
    近日,刊登于《细胞—报告》的一项研究表明,有节奏的食物摄入驱动的全身信号,对肝脏代谢功能和基因表达的节律有显著的促进作用,而与肝脏和生物钟无关。研究结果表明,SCN中的主生物钟并不仅仅作用于同步周围的生物钟,而且更广泛地参与了整个身体的昼夜节律转录程序。
    2019-04-19 09:59
    近日,中国科学院院士、中国科学技术大学教授潘建伟团队在基于光和超导量子体系纠缠态制备方面取得了两项实验成果:实现了综合性能最优的量子点确定性纠缠光源和国际上最大规模超导量子比特纠缠态12比特“簇态”的制备。
    2019-04-19 09:28
    4月18日,第三届中文域名创新应用论坛在北京召开。论坛发布了最新的《全球域名发展统计报告》。报告显示,截至2018年底全球域名总量已经达到3.57亿个,年度新增1454万个;我国域名保有量达5030万个,居世界第二。
    2019-04-19 09:19
    除了北京电信方面的5G营业厅之外,北京移动方面近日也宣布,在北京5G试验网上,中国移动通过5G手机成功打通了第一个5G电话。中国联通方面的信息则显示,目前该公司已在全国包括北京在内的17个重点城市部署搭建5G网络,进行了规模化的网络试验。
    2019-04-19 09:15
    这样一来,只要我们知道了地球的初始温度(也就是岩浆的温度)、岩层的导热系数以及地温梯度,我们就能根据公式计算出地球的年龄。美国地球化学家克莱尔·帕特森最终通过将陨铁中的铅铀比例设定为初始值,将地球岩石中平均的铅铀比例设定为最终值,计算得出地球的年龄在41亿—46亿年之间。
    2019-04-19 09:14
    这是一项被生物学家颜宁称作“估计会有很多公众关注”的研究。在传统观念中,短时间的缺氧就会引起哺乳动物大脑神经元死亡和不可修复的脑损伤。”  康利军表示,若要进一步研究,首先还是应该在遵循伦理规范的前提下做动物实验。
    2019-04-19 09:13
    4月18日无人机拍摄的连江县筱埕镇500亩鲍鱼健康养殖科技示范基地。近日,福建省连江县海域进入鲍鱼采收期,当地养殖户忙着捕捞和加工鲍鱼。近日,福建省连江县海域进入鲍鱼采收期,当地养殖户忙着捕捞和加工鲍鱼。
    2019-04-19 09:10
    这是4月15日在以色列特拉维夫大学拍摄的3D心脏。以色列特拉维夫大学研究人员15日宣布,他们成功以病人自身的组织为原材料,3D打印出全球首颗拥有细胞、血管、心室和心房的“完整”心脏,这在全球尚属首例。
    2019-04-19 09:09
    近日,中国科学家在美国《科学》杂志上发表的论文《华南早寒武世布尔吉斯页岩型化石库——清江生物群》,再次引发了圈内圈外对研究地球早期生命演化和动物门类起源话题的广泛关注。生物统计学的“稀疏度曲线”分析显示,清江生物群的物种多样性将有望超过已知所有寒武纪软躯体化石库。
    2019-04-19 09:05
    在这里,茂密的牧草中不知道隐藏了多少动物尸骨,甚至有误入其中非正常死亡的牧民的骸骨,再加上谷地中随处可见的倒塌的石屋、荒丘孤坟,更让这里充满了死亡的气息。在电脑上打开航磁图,马华东说,沿“死亡谷”近东西向带状航磁异常明显,越向西段,磁异常值越高。
    2019-04-19 09:04
    4月15日晚,拥有850余年历史的巴黎圣母院遭遇火灾,400多位消防员奋力扑救9个小时最终将大火扑灭。由于着火点主要集中在教堂顶部,巴黎警察局派遣无人机捕获实时图像,为消防员准确、及时了解火情提供了重要支持。
    2019-04-19 09:04
    几年前,美国激光干涉引力波天文台(LIGO)一举摘下人类首次直接探测到引力波的桂冠。蔡荣根介绍,对低频引力波的探测将有助于理解超大质量黑洞的形成、演化和分布,并对科学家认识宇宙结构产生重大影响。
    2019-04-19 09:03
    根据自然科研旗下《科学报告》18日发表的一项研究,英国正在采用人工智能(AI)分析社会问题。目前来看,AI尚不能全方位分析社会学种种问题,因此让传统方式与新兴手段互为补充,就显得尤为重要。
    2019-04-19 09:02
    据美国太空网近日报道,美国国家航空航天局(NASA)最新的“行星猎手”——凌日系外行星勘探卫星(TESS,“苔丝”)首次探测到了一颗地球大小的系外行星HD 21749c。据悉,这颗行星和另一颗于今年1月份确认的“亚海王星”天体HD 21749b,都环绕着距地球约53光年的恒星HD 21749(质量约为太阳质量的80%)旋转。
    2019-04-19 09:02
    “火星快车”:我是认真的  4月1日,欧洲空间局(ESA)发布了对争论多年的火星甲烷探测结果的一次独立验证,其“火星快车”号(Mars Express)探测器证实了之前“好奇”号火星车的测量结果。
    2019-04-19 09:00
    记者从18日在京举行的月球和深空探测国际学术研讨会上获悉,中国航天科技集团五院正在抓紧组织开展嫦娥五号、嫦娥六号和中国首个火星探测器等重大工程任务。
    2019-04-19 08:59
    携号转网,是促进电信市场竞争的一个硬措施。但是,事实证明,不解决市场竞争的结构性问题,硬措施也一样被软套路所消解。
    2019-04-18 09:35
    对地球气候的科学诊断,要依赖一些数据指标:全球平均温度、海平面高度、南极冰川、山地冰川等。
    2019-04-18 09:29
    加载更多