随着人工智能和自主系统的发展，我们必须为未来做好准备

“我肯定在质疑我最初的假设，即战争的基本性质不会改变。你现在必须质疑这一点。我只是还没有答案，”

美国国防部长吉姆·马蒂斯，关于智能机器的影响

陆军部长的未来声明，加速战争，讨论了技术与快速变化的战争特征之间的联系。具体而言，人工智能（AI）和自主系统是两种可能为澳大利亚陆军提供不对称优势的技术，澳大利亚陆军在装备和人员方面相对较小。当前关于这些话题的讨论常常被炒作、情绪和对流行文化的引用所掩盖；此外，大多数话语都是从技术、战略或伦理等不同角度构建的。为了在智力上为围绕这些技术的开发和使用的辩论做好准备，陆军以及更广泛的澳大利亚国防军需要建立对至少三个研究领域的跨学科理解

首先，陆军必须了解技术。这涉及到回答什么是人工智能和自主系统，以及它们能做什么的问题。如果人们要就这一有争议的新兴研究领域相互交谈（而不是过去或彼此交谈），就必须有一个共同的词汇。普通民众对人工智能和自主性的理解大多来自媒体或流行文化；这两个因素可能都助长了当前围绕这个话题的炒作和情绪。了解人工智能和自主性的一些不同定义，一些机器学习方法是什么，以及该技术现在可以做什么，将来能够做什么，这些都是研究潜在用途的基础

第二个问题是战略；也就是说，回答陆军可能打算如何以及“为什么”使用人工智能和自主系统。例如，与对手的陆上部队相比，使用自主系统可能会减少澳大利亚陆军相对较小的规模。然而，如果没有长期的战略最终状态，采购这些系统可能会产生战术上优秀和精致的人工智能支持的自主武器系统，例如自主坦克，但会导致与希特勒依靠“无人机”代替战略一样的结果。一旦陆军了解了为什么需要这些能力以及如何使用这些能力，就可以探索是否应该使用这些能力

陆军关于人工智能和自主系统使用的第三个问题是道德问题；即使有一个有效的战略可以从这些系统的使用中受益，是否应该继续实施这些战略？回答这个问题的前提是对伦理框架的基本理解，这些框架可用于评估军队在战争和和平时期使用新兴技术的情况。义务伦理视角评估违反一套规则或道德的行为，以判断它们是对还是错。例如，《制止杀人机器人运动》（Campaign To Stop Killer Robots）指出，“允许机器做出生死决定跨越了一条基本的道德线”。功利主义旨在为最多的人实现最大的利益；在这个框架下，如果人工智能自主武器系统确实比涉及人类决策者的武器系统造成更少的附带损害，陆军可能有道德义务使用该系统。《正义战争理论》（Just War Theory）或《战时法》（jus in bello）概述了一些指导战争道德行为的原则。这些措施包括避免以非战斗人员为目标的歧视、评估附带损害的相称性，以及禁止使用被视为“本质上”的手段，也就是说，普遍认为是邪恶的手段，如大规模强奸、酷刑和生物制剂。保罗·沙尔（Paul Scharre）的著作《无人军队》（Army of None）讨论了机器被编程为遵守这些原则的可能性，而它们缺乏情感会消除任何违反规则的动机

陆军可以通过多种方法开始对人工智能和自主相关领域进行广泛的跨学科理解。单位级专业发展计划和特别专业发展活动，如ASPI AI大师班，提供了很好的入门讨论机会。然而，这些活动必须得到结构化教育的支持，例如通过军团或非军团培训的长期教育系列和军事课程，以使军官和准尉能够明智地领导或协调此类活动

广泛了解技术、战略与人工智能和自主系统的潜在使用相关的道德原则将为不仅在陆军内部，而且在更广泛的澳大利亚国防军、社会和议会内部进行知情讨论奠定基础

只有当陆军了解了什么是人工智能和自主系统，以及为什么和如何使用它们时，我们才能开始讨论它们是否应该在军事环境中使用

简介