正在阅读: 戴上“白帽子” 人工智能投身网络安全攻防战
首页> 科普频道> 科普头条 > 正文

戴上“白帽子” 人工智能投身网络安全攻防战

来源:科技日报2019-04-15 09:09

调查问题加载中,请稍候。
若长时间无响应,请刷新本页面

  面对计算机系统和网络的缺陷和漏洞,黑客们找准机会实施攻击,白帽黑客则利用黑客技术来测试网络和系统的性能以判定它们能够承受入侵的强弱程度。短短几年时间,人工智能已进驻多个行业,落地无数场景。其中一些行业和场景已为大家所熟知,还有一些正在进入我们的视野,在网络安全领域,AI“白帽”正成为网络安全工程师的得力助手。

  据报道,近日美国市场调研公司CB Insights发布报告预测了2019年人工智能行业的发展趋势,其中一个趋势便是用人工智能发现网络威胁。

  正在赋能网络安全

  “人工智能技术的蓬勃发展,为网络安全攻防带来的,不仅有机遇,也有挑战。”北京理工大学网络攻防对抗技术研究所所长闫怀志接受科技日报记者采访时说。

  先说好的一面。360安全研究院邹权臣博士告诉科技日报记者,目前人工智能已经应用于恶意代码检测、恶意流量检测、威胁情报收集、软件漏洞挖掘等网络安全领域。

  “例如在恶意代码检测方面,人工智能通过对恶意程序的API调用序列、系统CPU利用率、收发的数据包等信息,自动识别恶意代码的特征,进而判定分类。”邹权臣介绍,相比于传统的基于动静态分析的特征检测、启发式检测技术,人工智能可以大幅度提升检测的准确率。

  360安全研究院研究员张德岳介绍,在软件漏洞挖掘方面,采用人工智能技术从漏洞相关的数据中提取经验和知识,并用训练好的模型提高漏洞挖掘的精度和效率,可以缓解当前该领域研究遇到的一些瓶颈问题,具体应用场景包括漏洞程序筛选、源代码漏洞点预测等。

  “人工智能在网络安全领域的应用日益广泛,运用人工智能赋能网络空间安全,主要体现在主动防御、威胁分析、策略生成、态势感知、攻防对抗等诸多方面。”闫怀志说,其中包括采用人工神经网络技术,来检测入侵行为、蠕虫病毒等安全风险源;采用专家系统技术,进行安全规划、安全运行中心管理等;此外人工智能方法还有助于网络空间安全环境的治理,比如打击网络诈骗。

  具备明显“过人之处”

  与传统的应对网络安全的方式相比,人工智能确实展示了其“过人之处”。

  在闫怀志看来,人工智能方法在解决人力所不及的安全大数据统计和抽取规律方面具备天然优势,它能够全面提高威胁攻击的识别、响应和反制速度,提升风险防范的预见性和准确性。特别是在异常行为检测等应用场景模糊的非精确识别和匹配方面,更是如此。

  “人工智能针对未知威胁和攻击的检测也更出色。因为传统的特征匹配方法对未知威胁几乎无能为力,而人工智能方法有时不需要先验知识,对未知威胁的检测能力较强。”闫怀志说。

  不得不说,人工智能系统还具备成本效益优势。闫怀志认为,人工智能可以在第一时间发现和识别预防威胁,并立即启动应急响应,高效的智能检测流程有助于减少人工参与、简化流程、降低成本、减小损失。

  “传统的应对网络安全的方法依赖于人工硬编码定义、提取特征的方式完成相关任务,而人工智能可以直接对原始数据进行训练,从大量的数据中提取特征,自动完成分类判定的工作。”张德岳说,如此一来后者既可以提高网络安全中预测、防范、检测、销控等各个风险环节的自动化和智能化程度,又能提升响应速度和判定的准确率。

  不能靠它包打天下

  “虽然人工智能搅动了网络安全领域的一池春水,但是应该理性看待人工智能在应对网络安全方面的优缺点,不能指望全靠人工智能来包打天下。”闫怀志说,人工智能在应对网络安全问题时,也有较强的局限性。

  邹权臣分析,这一方面受限于人工智能算法本身的能力。因为传统的机器学习技术依赖特征提取,而算法的效果和性能又依赖识别和提取特征的准确性。深度学习具有在高维数据中自动提取特征的能力,同时面临着持续学习、数据饥饿、可解释性等问题。

  “另一方面机器学习、特别是深度学习过分依赖数据,但在恶意代码检测、软件漏洞挖掘等领域,目前仍然存在数据收集困难的问题,缺少较好的数据集用于训练,影响对相关领域的研究。”邹权臣补充说,另外人工智能严重依赖于耗费计算资源,复杂的深度学习网络需要同时计算成百上千万次的计算,需要强大的人工智能芯片计算力的支撑。

  闫怀志则从不同方面总结了人工智能的不足。比如,易于忽视或者抛弃人类专家在网络安全领域的知识和经验积累,对网络安全的复杂应用场景考虑不足,对于已知威胁的检测效率远低于传统的精确特征识别方法等。

  “使用神经网络和深度学习等算法,能够较好地识别出未知攻击威胁风险,达到‘知其然’的目的,但是这些算法通常无法揭示产生这种安全风险的基本机理,也就是‘不知其所以然’,从而为从源头防御这种攻击风险带来极大障碍。”闫怀志说。

  脆弱面带来安全风险

  人工智能在应对网络安全问题时,有时甚至会展现出脆弱的一面。

  “一个真实环境中的人工智能系统,会面临数据安全、模型/算法安全、实现安全等多方面的安全威胁。”张德岳告诉科技日报记者。

  张德岳举例说,在数据安全方面,在数据收集与标注时出现错误或注入恶意数据,将导致数据污染攻击;在模型/算法安全方面,针对人工智能算法存在黑盒和白盒对抗样本攻击,可导致识别系统出现混乱;在实现安全方面,除了人工智能系统本身的代码实现,其所基于的人工智能框架以及所依赖的第三方软件库中的软件实现漏洞,也都可能导致严重安全问题。

  “人工智能对现有网络安全格局的影响,离不开算法、数据和计算能力3个方面,其容易遭受攻击的弱点也来自于此。”闫怀志总结说。

  对于防范人工智能的脆弱性所带来的安全风险,闫怀志指出:首先要从体系架构、系统算法容错容侵设计、漏洞检测和修复、安全配置等方面来增强人工智能系统自身的安全性;其次,要用其所长,尽量减小其暴露给外界的潜在攻击面;最后要构建网络空间安全综合防御体系,从安全技术和安全管理等层面来协同防范安全攻击,间接减缓攻击者直接针对人工智能系统发起攻击以及攻击成功的可能性。

  来自360安全研究院的专家也给出多个建议,其中包括:在数据获取过程中,要加强对数据来源的控制与过滤,在一定程度上保证数据安全可靠;在数据传输过程中,要使用更加安全的传输协议与加密算法;在人工智能系统的实现中,要保证代码质量并进行完善的测试,此外还要及时更新或修补框架或依赖库中存在的漏洞等。(记者刘园园)

[ 责编:张蕃 ]
阅读剩余全文(

相关阅读

您此时的心情

新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0
  • 视觉焦点

  • 灵山岛学校:10名学生的毕业礼

  • 乌兹别克斯坦集中销毁1吨多各类毒品

  • 独家策划

  • 推荐阅读
    日前,欧洲空间局表示,天文学家利用哈勃太空望远镜观测到一个奇特的小型星系。更值得一提的是,天文学家估算该星系中心的超级质量黑洞约为太阳质量的100万倍。欧洲空间局的天文学家认为,这或将会为人类理解星系形成和演化提供新思路。
    2019-06-27 09:28
    目前我国已经形成先进三代核电设计、建设、装备制造、运行维护全产业链自主能力,“卡脖子”技术基本没有了;下一步更需关注的是“卡脑子”问题,即进入“无人区”,原创、研发全新堆型,特别是相关基础研究和标准形成的问题。
    2019-06-27 09:26
    2018年度海南省科学技术奖设自然科学奖、技术发明奖、科学技术进步奖和国际科学技术合作奖四类奖项,共有获奖项目35个。
    2019-06-27 09:21
    以往估计,我国有1800万—2400万成人哮喘患者。”中国工程院院士、“中国成人肺部健康研究”负责人王辰表示,哮喘是我国人群常见病、多发病,已经成为亟须认真面对和解决的公共卫生与医疗保健问题之一。
    2019-06-27 09:19
    面对补贴退坡的大趋势,消费者担心新能源汽车可能会涨价,业界人士则忧心新能源汽车产销将现“断崖式下跌”。
    2019-06-27 09:18
    根据英国《自然·通讯》杂志25日发表的一份环境学研究,英国牛津大学团队评估了全球交通基础设施的损坏成本并报告称,每年全球因自然灾害造成的公路和铁路基础设施损坏,成本平均约达146亿美元。
    2019-06-27 09:14
    英国伦敦大学学院研究人员托马斯·普罗菲特及其同事挖掘了巴西的一处黑纹卷尾猴考古遗址,那里的猴子如今还会用石块砸开腰果。研究团队通过放射性碳测年和石制工具分析发现,黑纹卷尾猴这么做的历史可能已有3000年(或450个世代)。
    2019-06-27 09:14
    据美国趣味科学网站25日报道,一项新研究指出,对地球生命来说,磷化氢有毒,但它可能是外星生命存在的信号,外星生命或将其用作细胞间通信的一种方式。
    2019-06-27 09:12
    据统计,在过去的18年间,日本共斩获18个诺贝尔奖,年均1个,堪称是“量产”诺贝尔奖的国家。
    2019-06-27 09:12
    《自然》杂志26日发表了一项工程学研究:美国哈佛大学团队研发出一款名为RoboBee X-Wing的仿飞行昆虫无缆机器人。
    2019-06-27 09:10
    我国首部《中国氢能源及燃料电池产业白皮书》(以下简称《白皮书》)26日发布。根据中国氢能联盟的统计,预计到2030年,中国氢气需求量将达到3500万吨,在终端能源体系中占5%。
    2019-06-27 09:09
    记者从中国科学技术大学获悉,该校刘波教授课题组利用二维层状材料开发出一种手性分离膜,可以“抓住”左旋手性分子,“放过”右旋手性分子,分离效率高达89%,并有望产业化。
    2019-06-27 09:09
    26日,国际欧亚科学院中国科学中心(以下简称欧亚中国)粤港澳大湾区科技创新基地、数字科学院、水氢科学院落户东莞揭牌仪式在东莞松山湖中科院云计算育成中心举行。
    2019-06-27 09:08
    20天前,5G商用牌照发放让中国走入5G时代。目前全球只有几十个大城市,拥有个位数或十位数的5G基站,这些孤岛将在几个月后扩展为成片的信号热区。
    2019-06-27 09:07
    得益于我国5G商用牌照的发放和电信运营商的快速就绪,许多4G时代只存在于人们想象的生活和工作场景将逐渐到来。
    2019-06-27 09:07
    26日,记者从贵州省射电天文数据处理重点实验室获悉,该实验室参与的国际研究团队,对一颗编号为J1926-0652的脉冲星进行系统分析,首次发现这颗脉冲星几乎囊括了以往观测到的脉冲星的所有辐射现象。
    2019-06-27 09:06
    《报告》从整体数据传播情况、基本类型、基本特征、人群画像、惩处情况、典型案例点评等维度对2018年食品安全谣言进行详细分析。论坛上,“食品安全辟谣联动平台”和中国食品药品谣言智能识别系统公众查询平台启动。
    2019-06-26 09:17
    “很多年轻人一走上岗位,首先想到的是待遇,而不是想先吃苦创一番事业。”钱七虎说,在哈尔滨军事工程学院学习的六年时间里,他只回过一次家,美丽的松花江畔也未能吸引他的脚步。
    2019-06-26 09:15
    据了解,现有的科学研究已经证实了肠道菌群与肥胖之间的关系,但肠道菌群与脂肪分布的关系以及其在不同性别之间的差异尚不明确。由朱善宽教授领衔的中外科研团队则将研究的视角深入到了菌群类别(taxa)层面。
    2019-06-26 09:14
    25日,青岛西海岸新区正式启动实施关于促进“双招双引”二十条政策,包括项目落地奖励、经营贡献奖励、引荐人奖励、用地用房政策、投融资政策、人才政策等六个方面。
    2019-06-26 09:14
    加载更多