编者按

美国陆军网络司令认为，人工智能技术将改变网络防御对网络攻击的先天弱势，尤其生成式人工智能将为陆军网络部队带来压倒性积极影响。

(资料图)

美国陆军网络司令部司令科学顾问马克·莫伦科普夫表示，虽然人工智能助长了现有的网络威胁，但很大程度上也为陆军网络部队提供了优势，包括有效检测虚假信息、高级网络钓鱼和高级恶意软件等；陆军网络司令部正处于构建人工智能驱动的持续网络监控系统的早期阶段，旨在通过逐步调整机器学习权重来提高系统的有效性，包括针对武器平台等各类陆军系统；类似于X射线技术用于医学一样，连续监测人工智能技术对于网络防御的影响将是变革性的；陆军网络司令部一直在评估生成式人工智能，认为该技术利大于弊，将成为新兴领域的革命性颠覆工具和“战斗倍增器”，未来将提高陆军协调统一地完成复杂任务的能力；人工智能将在数据和决策相结合的作战边缘发挥最重要影响，包括监控部队位置、情报或作战环境变化，从而在战术边缘促进最佳决策制定。

美国陆军网络司令部首席技术官史蒂文·雷恩指出，网络复杂性和集成度、数据量以及网络运营和防御所需的知识量继续呈指数级增长，而人工智能和机器学习可以帮助降低复杂性，增强网络运营和防御的决策；人工智能和机器学习最终会扭转网络领域的力量动态，改变“攻易守难”的范式，使防守方重新获得优势；陆军网络司令部正在与陆军总部合作，致力于通过持续监控来确保所有平台和武器系统的安全性。美国陆军联合部队总部-网络副司令保罗·克拉夫特表示，陆军需要先进的人工智能技术来做出更好的决策并以更快的方式解析数据，并已经将人工智能应用于网络分析和网络攻防。

奇安网情局编译有关情况，供读者参考。

美国陆军网络司令部官员表示，人工智能（AI）能力为网络防御人员提供的优势比给对手提供的优势更大。尤其是生成式人工智能，可以为该司令部提供“压倒性积极”影响。

美国陆军网络司令部司令科学顾问马克·莫伦科普夫承认人工智能构成了威胁。他称，“现在人工智能领域有很多讨论，也有人担心不良行为者会使用人工智能。人工智能将真正降低某些类型恶意行为的门槛，特别是网络钓鱼、恶意软件生成和虚假信息。”

但他补充说，在很大程度上，人工智能为陆军网络部队提供了优势。他称，“但是，我还认为我们将会看到一些先进的人工智能工具，它们将帮助我们非常有效地检测虚假信息。它将帮助我们检测高级网络钓鱼和高级形式的恶意软件。”

陆军网络司令部首席技术官史蒂文·雷恩指出，网络复杂性和集成度、数据量以及运营和防御网络所需的知识量继续呈指数级增长。人工智能和机器学习可以帮助降低复杂性，增强网络运营和防御的决策。

史蒂文·雷恩表示，人工智能和机器学习最终会改变网络领域的力量动态。他称，“现在，古老的格言是攻击方占据优势。今天，我认为通过人工智能和机器学习，它开始改变这种范式，使防守方重新获得优势。这会让进攻方变得更加困难。”

马克·莫伦科普夫透露，陆军网络司令部正处于构建用于对系统进行持续网络监控的人工智能系统的早期阶段。他称，“我们认为，从人工智能的角度来看，我们现在正处于这样的阶段，连续监控可以嵌入现有的数据平台，并且似乎可以显著提高可见性和安全性。这个想法是让人工智能驱动的系统能够随着时间的推移而发生功能漂移，自动调整机器学习权重。这类事情对于持续监控系统的有效性确实至关重要。”机器学习模型的权重需要调整才能更有效地工作，尤其是神经网络。

人工智能可以持续监控各种类型的陆军系统，可能包括一些武器平台。马克·莫伦科普夫解释称，“我认为我们的许多武器系统在技术上无法实时连接，因此提高其安全性可能需要采取不同的监控方法。但这肯定会成为我们正在进行的研究的一部分，即了解如何监控一些间歇性连接的系统，以及如何提高其安全性。”

史蒂文·雷恩补充表示，陆军网络司令部正在与陆军负责采办、后勤和技术的助理部长办公室合作，致力于武器系统的安全和持续监控。雷恩表示，确保平台安全是一回事，监控恶意行为并警告操作人员是另一回事。他称，“我认为，根据我们的建议，陆军负责采办、后勤和技术的助理部长将找到适当的方法来保护平台和所有武器系统的安全。我们如何发出警报以确保有人实时意识到出现了问题？我们发现此特定武器或平台上存在恶意行为，然后我们可以采取行动。因此，指挥官现在可以明悉并了解存在潜在风险，并可以就如何执行和操作做出风险决策。”

测试人工智能系统可能需要渗透测试。马克·莫伦科普夫表示，“我不想在这里讨论太多细节，因为现在还为时过早。我们还没有达到明确定义的下一个层次，但在较高的层次上，我们认为进行自动化渗透测试有一定的实用性，以确保持续监控人工智能实际上能够捕获看起来像敌人或对手活动的东西。”

马克·莫伦科普夫将连续监测人工智能与 X 射线技术进行了比较。他称，“这将是变革性的，我认为，就像 X 射线技术用于医学一样。我们只需要考虑如何更好地构建、如何记录事件以及我们实际上需要接纳什么样的信号，以便我们能够看到异常和恶意活动，就像我们系统中的 X 射线一样。”

美国陆军网络司令部官员表示，生成式人工智能通过提供文本、图像和音频等内容来响应提示，可能对陆军网络部队特别有用。马克·莫伦科普夫表示，“我认为生成式人工智能将成为一种工具，随着时间的推移，它将真正提高我们一致、集体地完成复杂任务的能力。例如，我们开始在行业中看到，我们可以使用生成式人工智能来生成一些非常复杂的查询，这些查询可以发送到我们的数据平台以总结相关事件或帮助我们从网络安全的角度更好地查看活动。” 莫伦科普夫补充称，这些是近期的能力。

未来的进一步好处可能包括广泛的文档生成。马克·莫伦科普夫断言，“长期使用生成式人工智能作为分配知识和经验的机制将改变游戏规则。例如，如果我们有一些经过高度调整的模型，可供数百名人员使用，以一致的方式生成文件（例如工作说明书或合同），从而节省我们的时间和金钱，这对政府和签约合作伙伴都有好处。”

然而，马克·莫伦科普夫表示，人工智能最引人注目的能力将出现在数据和决策相结合的作战边缘。这可能包括办公室里有人使用人工智能个人助理，或者在具有间歇性网络的战术计算机上部署士兵，使用人工智能来监控部队位置、情报或作战环境的颠覆性变化。他称， “人工智能（包括生成式人工智能）最具影响力的领域将处于边缘。这是我们能够加速做出更好决策的地方。随着我们的前进，这对陆军来说至关重要。”

美国陆军网络司令部一直在评估生成式人工智能，到目前为止，利大于弊。马克·莫伦科普夫表示，它可以提高生产力，降低成本，并通过协助软件开发人员和提供“项目样板代码”或“解决问题和代码”来证明是“战斗倍增器”。他称，“我们一直在思考生成式人工智能将如何影响我们的劳动力。而且这是压倒性积极的。人工智能确实正在成为一些我们认为可能会出现的领域的革命性颠覆者。”

但问题是，美国陆军是否会不断紧追并应对犯罪分子和威胁行为者的创新，还是保持领先于对手。为了实现后者，陆军将需要保留知识渊博、经验丰富的网络人员，并且可能需要扩展人工智能专业知识。马克·莫伦科普夫表示，“这意味着我们需要的是有能力培养具有特定领域信号、网络、电磁战专业知识的人工智能专家。这确实是关键。这意味着我们还必须拥有新技术来帮助我们尽可能有效地培训、教育和传授这种经验。”

美国陆军联合部队总部-网络（JFHQ-C）副司令保罗·克拉夫特准将对此表示同意。他称，“我认为人工智能是先进技术，我们需要这项技术来做出更好的决策并以更快的方式真正解析数据。我们在网络分析方面做了很多事情。我们在网络防御或进攻方面确实做了很多事情。当然，我同意网络、电子战和信号兵团人员需要接受培训。”

保罗·克拉夫特还表示，一些陆军入伍人员已经具备人工智能专业知识，并且许多人正在攻读人工智能相关的研究生学位。此外，陆军还在佐治亚州戈登堡的网络卓越中心提供一些人工智能课程。

马克·莫伦科普夫还强调需要保留人才。他称，“我们必须寻找明智的方法来保留这些知识和经验。我们的成本会更高一些，效率也会低一些，但至关重要的是，业界帮助陆军思考如何优化我们的培训渠道，我们用这些渠道来培养下一代专家，这样我们不会过于依赖那些在对手选择时可能被利用或拒止的工具。”