DARPA挑战测试AI作为网络安全防御者

2019-07-01 15:49:29

今天的恶意黑客平均有312天的时间来利用“零日”计算机软件漏洞,然后人类网络安全专家才能找到并解决这些漏洞。美国军方专注于破坏性技术的主要研究机构旨在了解人工智能是否能够在几秒钟或几分钟内更好地发现和修复此类攻击。

今年夏天,美国国防高级研究计划局(DARPA)网络大挑战赛的七支决赛队伍 将与AI系统展开激战,这些系统可以通过积极发现和修复软件漏洞,自主扫描竞争对手的网络服务器以获取漏洞并保护自己的服务器。直接奖励的形式是首奖200万美元,第二名100万美元,第三名750,000美元。但从长远来看,DARPA希望挑战结果将证明自主AI系统已经足够能够帮助人类在永无止境的斗争中保护计算机软件和网络。

DARPA网络大挑战赛的项目经理Mike Walker在7月13日举行的电话会议新闻发布会上说:“他们将直接进行现场直播。”我们希望看到证据证明应对漏洞的整个计算机安全周期可以实现自动化。“

今天的网络安全防御主要依靠人工团队手动扫描崩溃报告,试图找出他们需要修复的问题; 当计算机故障产生数百或数千个错误报告时,这个过程变得异常繁琐。一些技术巨头如微软已经开始开发软件程序,可以自动发现问题并生成这样的错误报告。

但DARPA试图提高自动化AI系统如何找到和停止攻击的标准。美国军方希望这种自动化系统可以大大加快软件补丁的开发和应用时间,以修复软件漏洞。此外,自动化系统可以帮助监控整个软件系统,而不是仅仅依靠人工专家来检查出现问题时的崩溃报告。

七个入围团队获得了高性能计算硬件,以开发他们的AI“网络推理”系统。8月4日,在拉斯维加斯举行的为期10小时的网络大挑战赛决赛期间,他们将退后一步观看人工智能系统相互竞争。

当决赛开始时,每个AI竞争者都会发现自己处于一个运行已知协议并涉及以前未经审查的计算机代码的网络中。这意味着AI系统在开始发现漏洞之前需要学习网络的软件语言和逻辑。

为了攻击竞争对手,AI竞争对手将首先扫描其网络服务器中的漏洞。如果他们发现漏洞,他们将不得不告诉DARPA裁判有关漏洞并预测何时可能发生此类软件崩溃。沃克说,这就像一个叫台球的台球选手,比如“七球,角落口袋” - 在他或她排队的球场提示射击之前。AI竞争对手通过证明竞争对手的这些漏洞赢得积分,如果他们无法保护自己的服务器免受此类模拟攻击,则会失去积分。

AI竞争对手还必须同时创建自己的网络防御,以保护其服务器免受竞争对手的侵害。沃克解释说,这种网络安全防御可以使用两种策略。首先,您可以创建一个通用的“二进制装甲”,以防止对网络服务器任何部分的一般威胁。这种方法的缺点是它在运行其通常的计算任务时会降低服务器软件的速度。沃克说:“人们希望计算机是安全的,但不希望它以两小时的时间发送电子邮件为代价。”

第二种防御策略包括找到软件缺陷并使用针对这些问题量身定制的特定补丁来修复它们。对于AI竞争对手而言,这种逆向工程和问题的“点修补”更具挑战性。但是,在2015年6月举行的网络大挑战赛的前几轮资格赛中,由决赛队伍开发的人工智能系统确实产生了这样的补丁。没有个别竞争对手在资格赛期间成功找到所有590个软件缺陷,但他们一起发现所有战功。

但是,如果这样的网络安全AI系统可以用于恶意目的,例如寻找攻击并发起网络攻击,该怎么办?作为一个柜台,Cyber​​ Grand Challenge的结果和竞争对手的软件将成为公共领域的开源。开源软件使得在线社区发现和修复任何漏洞或攻击的可能性更大,而不是隐藏在公众知识之外。这种开放性是沃克所描述的“开放安全革命”方法的关键,这种方法可以最大限度地减少这种技术的“恶意滥用”。

在网络大挑战赛决赛开始之前,沃克不想推测这种人工智能系统在网络安全方面的未来能力。但他指出,商业软件的任何网络安全改进也会使美国军方受益,因为后者普遍依赖这种现成产品。

“我们将在21天内进行科学实验和生存能力实验,因此我会更加准备推测,”沃克说。“说实话,在我们说它存在并推测未来发展之前,我们试图证明自治。”

即使是DARPA网络大挑战中令人信服的胜利也只是这种人工智能系统的第一步。决赛团队已经口头同意其中的获胜者将参加类似的“夺旗”竞赛,该竞赛将在8月份同时在拉斯维加斯举行的世界最大的黑客大会之一DEF CON 2016上与人类黑客进行竞争。 。这标志着自动机器第一次在桌面上对抗人类专家。