下一次主要的网络攻击可能会涉及人工智能系统。在最近 Black Hat USA 2017 网络安全会议上，62% 专业人士表示，在未来 12 个月内可能会出现首次 AI 增强的网络攻击。

今年在黑帽上很明显的一点是人工智能已经正式到来。在无数的展台上，贴满了人工智能、机器学习和自动化的承诺，以及各种各样的会议，这些会议专注于使用这些技术来进行积极的防御，很明显，这个行业对智能解决方案抱有很高的期望。然而，人工智能的崛起也有其自身的缺陷。

人工智能将使现有的网络攻击结果，诸如身份盗窃、服务攻击和密码破解变得更加强大和高效。这种类型的黑客可以窃取金钱，造成情感伤害甚至杀死人。更大规模的袭击可以切断成千上万人的电源，阻断医院系统，乃至影响国家安全。

人工智能的解释对于人工智能来说仍然是困难的，而且人类并不真正信任人工智能系统做出重大决定。因此与电影不同的是，人工智能可能带来的网络攻击和网络防御，不太可能立即让电脑选择目标，并自行攻击它们。人们仍然需要创建攻击 AI 系统，并将其发布到特定的目标。但是，在现有的网络犯罪和网络安全世界中加入人工智能，将会使已经快速变化的攻击者和防御者之间的军备竞赛升级。

更快的攻击

除了计算机对食物和睡眠缺乏需求外，还需要限制人类黑客的努力，即使他们与团队一起工作，自动化也能使复杂的攻击变得更快、更有效。

到目前为止，自动化的影响是有限的。几十年来，由于病毒程序具有自我复制的能力，在没有特定的人类指令的情况下从计算机传播到计算机，这种非常基本的类似能力的能力已经存在了几十年。此外程序员还使用他们的技能来自动化不同的黑客活动。例如，分布式攻击需要在几个计算机或设备上触发一个远程程序来压倒服务器。

在去年 10 月影响了互联网的大部分地区的攻击使用了这种方式。在某些情况下，常见的攻击可以作为脚本，允许不成熟的用户选择目标并对其发起攻击。

人工智能可以帮助人类网络罪犯定制攻击。例如，鱼叉式网络钓鱼攻击要求攻击者提供关于潜在目标的个人信息，比如他们在哪里银行或他们使用的医疗保险公司的具体信息。人工智能系统可以帮助收集、组织和处理大型数据库来连接识别信息，从而使这种类型的攻击更容易、更快速地进行。这种减少的工作量可能会驱使他们发起许多较小的攻击，而这些攻击在很长一段时间内都不会被注意到，因为它们的影响更小。

人工智能系统甚至可以用来从多个来源收集信息，以识别那些特别容易受到攻击的人。例如，一个住在医院或在疗养院的人，在窃贼离开后，可能不会注意到他们的账户里少了钱。

提高适应能力

启用 AI 的攻击者会在遇到阻力时更快地做出反应，或者当网络安全专家修复之前允许未授权用户进入的漏洞时。人工智能可能会利用另一个漏洞，或者开始扫描新系统，而无需等待人类的指令。这意味着，人类的反应者和防御者发现自己无法跟上来袭的速度。它可能导致编程和技术军备竞赛，防御者开发人工智能助手来识别和防御攻击，甚至可能是 AI 的报复性攻击能力。

自动操作可能会导致 AI 系统攻击一个不应该受到攻击的系统，或者造成意想不到的伤害。例如，由攻击者发起的软件，目的是为了窃取金钱，决定以某种方式攻击医院计算机，从而导致有人受伤或死亡。无人驾驶飞行器自主操作的潜力也提出了类似的问题，人类需要做出有关目标的决定。

其后果和影响是显著的，但当第一次人工智能攻击被释放时，大多数人不会注意到一个巨大的变化。对于大多数受影响的人来说，结果将与人类触发的攻击相同。但是，当我们继续用联网的机器人系统来填满我们的家、工厂、办公室和道路时，人工智能攻击的潜在影响只会越来越大。

调查结论

网络安全公司 Cylance 调查了 100 名与会者，讨论了在展会上讨论的各种话题，从使用人工智能作为工具的罪犯，到国家对美国的影响。以下是该调查的主要发现：

· 在接下来的 12 个月里，犯罪分子可能会使用人工智能进行攻击。

有 62% 的受访者认为，黑客有很高的可能被黑客用于攻击目的。尽管人工智能可能是减缓网络攻击和入侵的最佳希望，但它也可能在短期内创造出更先进的攻击者战术。

然而，越来越多的自动化网络攻击不会减缓人工智能的防御目的。事实上，随着网络罪犯和民族国家开始使用人工智能来提高攻击速度，需要更智能的解决方案，以帮助人类安全团队保持增长，这一点只会变得更加明显。

· 黑暗网络市场的关闭不会减缓勒索软件的活动

在最近的「阿尔法湾」和「汉萨」的打击下，Cylance 要求受访者考虑他们是否认为这些执法行动会导致勒索软件的攻击减少。这两个黑暗的网络市场以销售恶意软件而闻名。

意料之中的是，黑帽与会者并不乐观，近五分之四的受访者(79%)认为，在黑暗网络上拿下市场将不会对这种攻击形式产生影响。

在他们自己的组织中，黑帽与会者仍然主要关注操作系统补丁和更新(39%)和遵从性问题(24%)，然后是勒索软件(18%)、三次提醒(10%)和身份和 DoS 攻击(8%)。

就他们夜间的情况而言，超过 1/3(36%)的人主要关注的是网络钓鱼。33% 的人认为对关键基础设施的攻击是他们最担心的。额外的关注包括物联网(物联网)攻击(15%)、勒索软件攻击(14%)和僵尸网络攻击(1%)。

· 俄罗斯和民族国家的犯罪分子对美国构成了最大的网络安全威胁。

当被问及美国面临的最大网络安全威胁时。在俄罗斯或非国有网络犯罪分子构成最大风险的问题上，黑帽与会者意见不一。俄罗斯以微弱优势占据榜首，34% 的受访者认为俄罗斯是最大的威胁，其次是有组织的网络犯罪(33%)，中国(20%)和朝鲜(11%)。尽管美国和伊朗之间的紧张关系加剧，但只有 2% 的与会者称伊朗为我们的头号网络对手。

· 接下来怎么做

根据调查结果，很明显信息安全委员会的专业人士担心他们组织中存在的高级威胁和疏忽，对于哪些组织(民族国家或一般网络犯罪分子)对我们的安全构成最大的威胁，他们几乎没有达成共识。因此，需要结合先进的防御方案和对 AI 的教育计划，以确保我们开始迈向更安全的未来。