人工智能与网络安全的交集是业界越来越关注的话题，特别是关于如何利用人工智能来减轻攻击和中和威胁。许多利益相关者正在接受这样一个事实：人工智能也可以是一股邪恶的力量。根据BCG的数据，在美国和日本，超过90%的网络安全专业人士预计攻击者将开始使用AI发起攻击。而事实上，这已经成为了现实。
 
AI为网络攻击者带来了巨大的机会，让他们可以将攻击的速度、数量和复杂程度提高到大规模。根据Cyxtera的Alejandro Correa Bahnsen的说法，基于AI的攻击可以绕过传统检测系统超过15%的时间--而一般的网络钓鱼攻击（没有AI）只能检测到0.3%的攻击。一个例子是#SNAP_R。
 

 
用AI捍卫AI：AI赋能下的下一代网络威胁的解决方案
在应对这种日益严重的威胁时，需要注意的是，基于AI的进攻需要基于AI的防御。也就是说，在深层伪装可以欺骗安全系统的地方，应该应用更高的AI支持的认证。诸如此类。
 
企业才刚刚接受人工智能的风险。对企业来说，尽快采取行动保护他们的系统免受这些攻击是很中肯的。WannaCry为网络攻击引入了一个全新的复杂程度--现在再加上人工智能？这不应该允许发生。
 
AI在进行网络攻击时的风险
 
1. 可扩展性
在2016年的黑帽大会上，高级研究人员首次推出了一个自动鱼叉式钓鱼程序。鱼叉式网络钓鱼，通常情况下，任务繁重，耗时较长；根据攻击范围的不同。攻击者很可能要收集大量关于目标的信息，以便进行有效的社会工程。这些研究人员展示了如何利用数据科学和机器学习来自动化和扩展鱼叉式网络钓鱼攻击。
 
2. 冒充
几个月前，道斯未来犯罪中心的专家们将深造列为最严重的AI犯罪威胁。这不难理解为什么。Deepfakes是一种虚假信息、政治操纵和欺骗的工具。更有甚者，恶意行为者可以利用Deepfakes冒充可信的联系人，泄露商业邮件（语音钓鱼）进行金融欺诈。而最糟糕的是，它们很难被发现。
 
deepfake的可能性嘲笑了语音生物识别和认证。而且这些深层伪造将导致人们不信任音频和视觉证据，而这些证据长期以来都是防篡改的证据来源。
 
3. 侦查-逃逸
AI用于逃避检测的一种方式是数据中毒。通过针对和破坏用于训练和配置智能威胁检测系统的数据，比如说，让系统将明显的垃圾邮件标记为安全邮件，攻击者就可以更加隐蔽地行动，而且更加危险。
 
研究表明，仅对3%的数据集进行毒害，就能将错误可能性提高91%。AI既可以用来躲避攻击，也可以用来适应防御机制。
 
4. 复杂度
以上所有观点都强调了AI如何增强攻击。AI攻击因为自动化和机器学习而变得更糟糕。自动化打破了人类努力的极限，而机器学习则使攻击算法从经验中改进，变得更有效率，不管攻击是否成功。
 
适应性意味着基于AI的攻击只会越来越强，越来越危险，除非开发出更强的抵御创新。
 
利用AI来抵御AI
 
A. 用于威胁检测的机器学习
在用人工智能防御人工智能的过程中，机器学习的作用是帮助自动检测威胁，特别是传统的防病毒和防火墙系统不具备防御能力的新威胁。机器学习可以将传统威胁检测中的严重威胁--误报的实例大幅减少50%到90%（cybersecurity intelligencedotcom）。
 
与上一代的检测工具不同，机器学习是基于签名的，它可以监控和记录组织中员工的网络使用模式，并在观察到异常行为时提醒主管。
 
显然，目前93%的SOC在威胁检测中使用了AI和机器学习工具。产生的数据越多，网络攻击越复杂，安全专业人员将不得不通过监督和非监督的机器学习来增强其防御和检测能力。
 
B. 通过AI加强身份验证
弱认证是恶意行为者未经授权访问端点的最常见方式。而正如在deepfakes中看到的那样，即使是生物识别认证似乎也不再是万无一失的。AI通过为认证要求添加上下文来提高防御的复杂性。

基于风险的身份验证工具使用AI支持的行为生物识别技术来识别可疑活动并防止端点泄露。然后，身份验证从用户验证扩展到实时智能。RBA也叫自适应智能，它评估位置信息、IP地址、设备信息、数据敏感度等细节，计算出风险分值，并授予或限制访问。
 
举例来说，如果一个人在工作日早上上班时总是通过电脑登录，有一次周末在餐厅试图通过移动设备登录，这可能是一个泄密的信号，系统会适时标记。
 
在智能RBA安全模式下，对于攻击者来说，仅仅知道系统的密码是不够的。
 
除此之外，人工智能驱动的认证系统将开始实现连续认证，同时仍然使用行为分析。系统不再是每个会话单一登录，中途可能会被攻击，而是通过分析用户环境和行为，寻找可疑模式，在后台持续工作认证用户。
 
C. AI在网络钓鱼防范中的应用
加强威胁检测是一种方式，通过人工智能可以防止电子邮件钓鱼攻击，也可以在使用torrenting网站下载媒体内容时实现安全。它同样可以通过简单的行为分析来做到这一点。比如你收到一封据称来自CEO的邮件，AI可以通过分析邮件，发现与实际CEO的沟通方式不一致的模式。
 
写作风格、语法和选词等特征可以揭示出反差，防止你落入陷阱，安全浏览和下载。
 
AI还可以扫描电子邮件元数据，以检测篡改的签名，即使电子邮件地址看起来没问题。它还能扫描链接和图片，验证其真实性。与传统的反钓鱼工具通过容易被绕过的过滤器阻止恶意邮件不同，AI直接针对钓鱼邮件的核心：社交工程接受挑战。
 
社交工程攻击之所以难以克服，是因为它们是心理上的，而不是技术上的。迄今为止，纯粹的人类聪明和怀疑论一直是克服它们的工具。现在，人工智能提高了预防能力，将忧虑扩展到人类极限之外。
 
通过识别对人类来说并不明显的模式，人工智能可以确定电子邮件何时是恶意的，即使它不包含任何可疑的链接或代码。而且它还能利用自动化技术大规模地完成这一任务。
 
D. 预测分析
AI在网络安全中的最终好处是能够在攻击发生之前预测和建立防御措施。AI可以帮助人类监督员对组织的整个网络基础设施保持全面的可见性，并分析端点以检测可能的漏洞。在这个远程办公和BYOD政策的时代，IT部门越来越觉得端点安全很困难，AI可以让他们的工作变得更加轻松。
 
AI是我们应对零日漏洞的最佳赌注，让我们能够在这些漏洞被恶意行为者利用之前，迅速建立智能防御。AI网络安全正在成为我们组织的一种数字免疫系统，类似于人类中的抗体正在成为系统对外来物质发起进攻。
 
结语
去年，一些澳大利亚研究人员绕过了著名的Cylance人工智能杀毒软件，而没有使用常见的数据集中毒方法。他们只是研究了杀毒软件的工作原理，并创造了一个通用的绕过方案。这项演习叫人质疑让计算机来决定什么应该被信任的做法，也引起了人们对人工智能对网络安全的有效性的关注。
 
然而，更重要的是，这项研究强调了一个事实，即人工智能不是银弹，人类的监督对于对抗先进的网络威胁仍然是必要的。我们确实知道的是，仅靠人类使用传统网络安全工具的努力不足以克服由AI驱动的下一代网络威胁。
 
我们必须将人工智能作为对抗人工智能的最佳攻防手段。