什么是自主系统?

根据系统在三个方面的属性(即熟练性、可信赖性和灵活性)定义了一个自主系统:

●一个自主系统的设计应确保在作战期间，在给定的环境、任务以及设想的队友之中的熟练性。理想的熟练性属性包括现场智能性、自适应认知、多智能体突现，以及从经验中学习。

●一个自主系统的设计应确保在由其人类同行操作或与之合作时的信任。理想的信任原则包括认知一致性和透明度、态势感知、有效的人与多系统集成，以及人-系统团队合作和训练。

●一个自主系统应在其行为、团队合作和决策方面表现出灵活性。理想的灵活性原则所包括的灵活性体现在能够执行不同任务、在不同的点对点关系下工作，并采取不同认知方法来解决问题等方面。

我们相信，如果我们要在空军中有效地部署和使用自主系统，所有这些方面都需要在一定程度上得到满足。另种说法是，如果不能在所有三个方面满足设计的空间，就会导致部署自主系统的失败:熟练性低将导致使用其他系统，可信赖性低将导致停止使用，而灵活性低将导致自主系统无法在变化的、在设计阶段可能未设想到的环境中展示真正的自主性。

一个自然的问题是，这些方面是否对系统拥有多少(或哪个级别的)自主性有任何意义。答案是否定的。从目的来看，并没有打算使用这三个方面来定义或指导自主级别的一些概念。这只是因为还不明确这是否是一个有用的构想，这一点在本文以及本文引用的早期研究中都已讨论过。

我们现在讨论一些自主系统的常见问题。

B.1一般概念

什么是智能?什么是人工智能?

智能是收集观察结果、创造知识并适当地运用这些知识来完成任务的能力。人工智能是一种拥有智能的机器。

什么是自主系统的内部表示?

目前的自主系统被编程为使用不同的过程来完成任务。自主系统的内部表示是智能体构建其对世界的了解、其知识(自主系统用来进行观察和产生含义的东西)的方式，以及智能体构建其合义和其理解的方式，例如，自主系统内部用于其知识库的编程模型。随着自主系统获得更多的知识，或者随着自主系统进一步操纵现有知识以创造新的知识，知识库可能会发生变化。

什么是含义?机器会产生含义吗?

含义是一个人或自主系统的内部表示中因一些刺激物而改变的东西。它是刺激物对那个人或系统的含义。当你(一个人)看着一面美国国旗时，它在你身上唤起的一系列思想和情绪就是那一时刻这种经历对你的含义。当向一个自主系统显示这幅图像时，如果其像素密度在自主系统的软件中引起了一些经过编程的变化，那么这就是那面国旗对该自主系统的含义。在这里我们看到，自主系统产生含义的方式与人类的方式是完全不同的。作为其编程方式的结果，自主系统内部表示中的变化就是对该自主系统的含义。一个刺激物的含义就是由该刺激物在该智能体(人或自主系统)中所引起的、特定于智能体的表示上的变化。由数据引起的表示上的更新就是该刺激物对该智能体的含义。含义不仅仅是将数据放到表示中;它是表示的所有产生的变化。例如，默会知识的唤起，或进行中的模拟(意识;见下文)的修改，甚至因刺激导致的智能体知识的更新，都被纳入某个刺激物给某个智能体的含义中。含义不是静态的，会随着时间的推移而发生变化。对于某个给定的智能体，一个刺激物的含义是不同的，这取决于它何时被提供给该智能体。

什么是理解?机器能理解吗?

理解就是估计某个自主系统的含义是否会导致它以可接受的方式完成一项任务。理解发生的前提条件是，充当执行者的自主系统增加了一个评估人(或充当评估者的自主系统)的信心，使其相信该执行者自主系统将以可接受的方式作出响应。含义是由一个查询(表示一个刺激)导致的自主系统内部表示的更改。理解是含义的影响，导致对成功完成某一特定任务的期望。

什么是知识?

知识是用来为某个给定的智能体产生各种刺激的含义的东西。从历史上看，知识产生于那些能通过遗传学进化、个别动物的经验，或者动物(通过文化)向同一物种的其他成员交流知识来捕捉并编码信息的物种。随着机器学习的进步，有一个合理的论点是，将来世界上产生的大部分知识都将由机器完成。

在思考什么?机器能思考吗?

思考是用于操纵自主系统内部表示的过程;是一种含义的生成，其中，含义是由刺激引起的内部表示的变化。如果一个自主系统可以改变或操纵它的内部表示，那么它就可以思考。

什么是推理?机器能推理吗?

推理是在一项任务的语境下的思考。推理是思考感知到的内容和完成任务要采取的行动的能力。如果系统更新了它的内部表示，它会生成含义，并且在这次思考与完成某项任务有关联时进行推理。如果该系统的方法没有生成所需的“含义”来以可接受的方式完成这项任务，那么它就没有进行适当的推理。

什么是认知?是什么使一个系统能够认知?

认知是通过思考、体验和感觉创造知识和理解的过程。一个能够通过思考、体验和感觉创造知识和理解的系统就是能够认知的系统。例如，一个认知电子战(CEW)系统从其感觉中收集数据并创造知识。它利用相关知识完成其电子战任务，这表明该系统对其任务有一定程度的了解。

什么是情境(situation)?

一个情境是在自主系统的内部表示中个别知识条目的链接，这些条目可以组合起来形成一个新的单一知识条目。这个新的单一知识条目就成为一个情境，这归因于它与组成它的各个条目的链接。情境是认知的基本单位。情境是由它们与其他情境的关系和彼此之间的交互方式来定义的。情境是作为一个整体来理解的。

什么是情境认知(situatedcognition)?

情境认知是一种理论，它断定认识与行为是不可分割的，认为所有知识都处于社会、文化和物理背景密切相关的活动中。这就是所谓的“看/想/做”范式。

什么是学习?什么是深度学习?

学习是通过体验、感知和思考来改变知识、理解和技能以便能够适应变化的认知过程。根据智能体使用的认知方法(它选择的某种表示，例如符号型、联接型等)，学习是智能体使用该表示对某个模型进行编码的能力(符号型智能体中的规则，或者，对联结型方法来说，人工神经元被联接和调整权重的方式)。一旦对该模型进行了编码，就可以将其用于推论。深度学习是包含许多神经元处理层的联结式方法的一个子集，它的学习范式克服了过去与多层“信用分配”问题相关的限制(即，哪些权重应该进行调整以提高性能)，利用了大数据和多个实例进行训练，并在计算基础设施方面取得了进展。深度学习近年来由于其处理图像和语音数据的能力而备受关注;这在很大程度上是由于当前计算机的处理能力、可用数据的急剧增加，以及学习方法的适度修改。深度学习基本上是一种非常成功的大数据分析方法。

B.2示例

车库开门器是自动化的(automated)还是自动的(automatic)?

车库开门器在收到信号时会开门，并根据一些预设的条件(电机转动的次数，或通过某一开关)停止。它在关闭的情况下，如果收到打开信号就会打开，并根据同样类型的预设条件而停止。车库开门器是一个自动系统，因为它基于一些触发机制执行一个简单的任务，并在完成其任务时也基于一些触发机制而停止。

自动目标识别系统是自动化的还是自动的?

当前用于目标识别的方法是在一组假定的操作条件下、针对已知的目标来工作的，并且可以拒绝像目标似的对象，从而产生一定程度的鲁棒性。因此，它们是自动化解决方案。

地面防撞系统(GCAS)是自主的吗?

如果担心飞行员会导致飞机与地面相撞，地面防撞系统将接管飞机的控制。在这里，系统将指挥和控制(C2)从飞行员那里拿走，以防止飞机与地面碰撞，然后飞行员可以重新获得C2(由系统明确地放弃控制，或者由飞行员收回控制)。地面防撞系统证明了同伴灵活性，并因此解决了前面提到的自主系统的一个关键挑战。但是请注意，在这个描述中，系统并未展示任务或认知灵活性。一些人认为，地面防撞系统仅仅是一个自动化系统因为它缺乏认知灵活性。

自动驾驶系统是自主的吗?

自动驾驶系统的任务是在飞行员设定的特定高度(或高度剖面)以特定的速度飞行特定的轨迹。自动驾驶不会改变其任务或与飞行员的同伴关系，也不会改变其控制飞机的方式。因此，它不满足自主性的三项灵活性原则中的任何一项。不过，它确实反射性地适应了各种不断变化的、影响其航向、速度和高度的条件，以维持提供给它的参数。因此，它是一个自动化系统。

自适应巡航控制系统是自主的吗?

巡航控制系统的存在是为了保持某个恒定的速度。一个自适应巡航控制系统也会保持其速度，但它会通过改变速度来适应在其前方感觉到的变化而无需获得驾驶员的许可，以保持与前方汽车之间的安全距离。万一有需要，它也可能会刹车。自适应巡航控制是自动化的，因为它从不改变其同伴关系，从不改变其任务(只是以预先编程的方式改变它完成任务的方式)，而且在这样做时没有任何认知灵活性。

空对空导弹是自主的吗?

一枚空对空导弹(甚至包括巡航导弹)与发射它的人有一种固定的同伴关系。这枚导弹是在完成一项预定义的任务，并且是以一种预编理的方式进行的。灵活性的三项原则都没有得到证明，因此它不是自主的。这种系统是非凡的，并且能够完成一项非常复杂的任务，但它也只是自动化的。

谷歌汽车和有自动驾驶功能的特斯拉汽车是自主的吗?

谷歌汽车按照指示驶向某个地点，但它可以将任务从行驶改变为紧急停车，比如，为避免撞到某个行人。当特斯拉自动驾驶仪撇开驾驶员并且不允许其参与控制(因为驾驶员的手离开了方向盘)时，或者当大众自主汽车接管控制并刹车，以防止迎头相撞时，我们看到的是同伴灵活性的实例，正如前面所述的地面防撞系统一样。但它并不是自主的。

Roomba(扫地机器人)是自主的吗?

Roomba是一种受欢迎的家居用品，它作为房主的代理人来对地毯吸尘。它的能力相当强，新版本吸收了现代机器人学，以纳入在绘制环境图的同时确定其当前位置的能力。Roomba有一项唯一的任务——吸尘。它没有改变其同伴关系的能力，也不改变其完成任务的模式。因此，Roomba不是自主的，但它是一个非常有能力和有用处的自动化系统。

IBM的沃森是智能的吗?沃森是人工智能吗?

Watson拥有的知识是由人类编程结合这些程序对大型数据存储的应用来收集和/或生成的。它能够有效地存储和检索可能相关的知识，这样它就可能对查询作出响应。有人可能会说，当沃森被允许使用其编程来搜索和适当地索引大型数据存储库时，它是在收集信息以便稿后适当地应用。在进行这种搜索时，它使用了一种整体(ensemble)学习方法，这意味着它改变了模型以便能够提供更好的结果，这是具有认知灵活性的一个方面。因此，沃森正在解决自主系统的一个关键挑战，但我们不会认为它是自主的。但不管怎样，沃森是一个展示出智能的硬件和软件组合体。因此，如前面所述，它是一个人工智能。

Siri是智能的吗?Siri是人工智能吗?

Si为响应查询而收集的信息是通过其编程完成的。它确实收集数据来对查询作出响应，并且经常适当地使用这些知识来为回答提供价值，它是一种很好的自动化。由于Siri是硬件和软件的组合，并且按照前面的定义展示了智能，因此我们会将Sin标记为人工智能。

Siri懂得我正在问什么吗?

当我们有理由期望它将给出一个能够使用的答案时，你可以说Siri懂，当我们有理由期望这个答案将是不能接受的，那么你可以说Siri不懂。但对于所有的人工智能系统，用户必须认识到系统产生的含义并不是“人类的含义”，因此必须谨慎使用。例如，某个人工智能能够以高可信赖性将一辆校车称为一只鸵鸟，但任何看到这幅图像的人都将无法理解人工智能是怎么可能犯下这一错误的。其原因是，对这个人工智能来说，含义是向量空间中的一个位置，是通过处理像素密度和颜色到达的，而一只鸵鸟是一个对象类别，并不拥有我们人类在含义中联系或产生的那种丰富的含义。

“阿尔法狗”懂围棋游戏吗?

“阿尔法狗”对围棋游戏的理解只能从另一个智能体的角度来评估。作为一个非围棋玩家，你可能愿意说阿尔法狗懂这种游戏，因为从一种纯朴的角度来看，它对玩游戏的任务做出了可以接受的响应。这里，“阿尔法狗”对任何有利于作出一个预期可接受的响应的盘面形势生成了“含义”.那么，在一个希望把“懂游戏”定义为“自主系统在内部给自己产生成了游戏是什么的含义”的人看来，他可能会得出“阿尔法狗”不懂围棋游戏的结论。“阿尔法狗"是一个自动化系统，并且由于它利用知识来生成对那些有利于它作出响应的盘面形势的含义，因此它是一个人工智能。