八、智能不是万能
智能仅是解决问题的一种工具手段，若不与日常生活中的风俗习惯、伦理道德中的仁义礼智信勇、法律中的边界规则统计概率等诸多方面相结合，就很容易泛滥成灾而不可控制。真实的智能不是万能，它不但涉及事实性的真假问题，还应该包括价值性的是非问题，更与责任性的大小轻重密切相关，所以，严格意义上讲，智能是许多领域的一连串组合应用。
掌握信息、数据的多寡并不意味着离智能越近，对人而言，知识是过程而不是静止的一堆观念，根据已知事实用构造性的努力去发现真实定律的可能性有时会使人感到绝望。如果思考的框架错了，那么谬误将会抢占人们的心智，因此，问题的要害在于“不可度量的人类主观感受”与“可度量的客观物质世界”之间缺乏桥梁——人机环境系统交互出来的“真实变化”，准确地说就是基于深度态势感知发展出人的认知算计与计算体系，牢牢地锚定“人”这一核心问题。而不是将人看作一个个毫无生命力的原子，试图用变幻莫测的数学模型去描述人。但是，单纯人因也是存有问题的，不懂行或愚蠢的人在回路中是巨大的隐患和潜危。
对于人机而言，虽然都是将一个问题拆成几个子问题，分别求解这些子问题，即可推断出大问题的解，但是人的动态规划与机器的动态规划却是不同的：有经验的人可以游刃有余地将一个复杂性大问题拆成事实、价值、责任等不同性质的小问题来求解，即用事实、价值、责任的不同化法进行大事化小，小事化了，还可以避免各种鼠目寸光和画地为牢，而目前的机器对此异质合取化解问题依然望尘莫及，人工智能只会对比（不是类比），也许这也是人类智能的又一个瓶颈和难点：如何有效地处理异质性的非形式化问题？！
对于人、机而言，虽然都是将一个问题拆成几个子问题，分别求解这些子问题，即可推断出大问题的解，但是人的动态规划与机器的动态规划却是不同的：有经验的人可以游刃有余地将一个复杂性大问题拆成事实、价值、责任等不同性质的小问题来求解，即用事实、价值、责任的不同化法进行大事化小，小事化了，还可以避免各种鼠目寸光和画地为牢，而目前的机器对此异质合取化解问题依然望尘莫及，人工智能只会对比（不是类比），也许这也是人类智能的又一个瓶颈和难点：如何有效地处理异质性的非形式化问题。计算是事实性推理关系，低阶的算计则是价值性推理关系，高阶的算计更是事实价值混合/融合的推理关系，计算与算计是不同的因果关系。人类的“既…又…”关系往往不是“并”的计算关系，与具体态势算计有关。是非不同于对错，也不同于真假和01，孟子曰：是非之心，智也……
AI追求数据化、确定性和理性的解释，假定任何问题都像做作业、考试一样有标准答案，把每个决策简单地变成约束条件下求解，变成数据计算。可是，人类之所以进步，在于真实世界里人的创造性。从无到有创造新东西，意味着不确定性，没有标准答案，它靠想象力和算计，不是靠计算。类似于遗传与变异，传统人工智能AI能解释一个人为什么长得像父母，但是不能解释为什么有不像的地方，人机融合智能可以较好地解释后者。
所谓的人机智能就是自主、能动、恰当地处理变主客体关系的能力与功能混合，进而认清趋势、把握方向、选择道路。离开类人自主性（随机应变）的它控系统谈不上有多少智能。
事实与价值都是相对的，只不过两者的相对程度不同。现代人工智能总是在联系各种固定的标注和定义，而这些标注/定义和它本身总是不尽相符。真实智能不然，真实的智能是面向活的对象（属性标注）和面向动态过程（关系定义），它不仅涉及真假，而且还包括是非。在人类自然智能的态势感知中，相对论也起作用，势会生成新态，知可以产生新感（机器不行），比如大势所趋后的态缩效应，知觉后的视觉里可以产生重视、轻视、藐视、仰视、俯视、怒视、蔑视、正视。
人、机中的每一个参考系都有它自己独立的时间，如果两个参考系的时间不一样，而且它们在一阶精度下存在对应态势感知中的那种关系。那么在其中一个参考系里认为是同时发生的两个事件，在另一个参考系里就有可能被认为不是同时的。故信息时空及意向的非一致性是人机融合智能的关键。
经常听到有人说“我相信宇宙规律应该是简单而美的”，但是很多人并不知道要认识这种简单和美是需要站在一定的高度来看的。一幅油画很美，但是如果你距离它非常非常近，你可能就只能看到油画里的斑斑点点，那就既不简单也不美了。同样，想要认识和发现更加简单和优美的物理定律，你就得对原来的理论认识得更加深刻，站在更高的高度去看它才行。而这种认知，对科学基本问题的深入思考，是需要哲学参与的。
君子喻于义，小人喻于利；人类喻于义（是非），机器喻于利（得失）；人类是情义交融的，机器是情义分离的，人机融合有情有义、有理有利。当然得排除不讲情理之人。韩愈给“义”字下的定义是“行而宜之之谓义”。“义”就是“宜”，而“宜”就是“合适”，也就是“应该”，但红绿灯问题仍然没有解决这个“义”。正如红绿灯的黄灯闪烁是上述人机交互的情理义的一个例证，黄灯闪烁是给什么样的人看的一样：“好人”停，“不好的人”依然在行。人类的理性是由感性演化而来的，机器的理性没有经过这个过程，从而不可能模拟出真正的人类理性或智能。实际上，真正的人类智能大都是指导性的，而不是指令性的，人工智能恰恰相反。
作为构成解释特征的因果关系观念，只有在单称事态解释的情形下才能成立。当把此观念延伸到规则解释时，它便不成立，甚至是反直觉的。虽然因果解释的反事实理论要求解释关系必须为不变性关系，但在一些复杂情形下，解释的关系却无法满足干预下的不变性。根据伍德沃德的因果解释理论，解释关系必须是不变性关系。然而，“许多生物学系统表现出复杂的动力学特征，包括分叉、放大和阶段改变的特征”。也就是说，在许多情形下，在我们对规则进行因果解释时，解释的关系不满足干预下的不变性关系。正如欧根鲍夫(J.Odenbaugh)所指出的那样，在生态学之中，“我们几乎不可能以系统和可控方式，对生态系统进行操控。多种多样的因素都在起作用，并且他们之中的一些因素只是在特定的时期才能够被识别出来。”不仅如此，在许多事例中许多因果律是共同起作用的，并不能单独地改变。因果解释可以对规则进行解释。即使现有的因果解释理论并不能够对所有的规则进行解释，但随着对因果解释模型的改进，因果解释模型也会对更多的规则进行解释。
九、人类智能的基石不是数学
定义域A，值域C以及从A到C的对应法则f，称为函数的三要素。由于值域可由定义域和对应法则唯一确定。两个函数当且仅当定义域与对应法则分别相同时，才是同一函数。态、势、感、知的定义域和对应法则不唯一，所以无法用已有的数学函数进行计算。
人的智能在于知道自己的不智能，机器则不然。人类可以跳出概念理解并使用概念，机器自己并不具有拟合出合理概念的能力和方法，只抓了有形的概念，而忘了概念的无形部分。
在莫奈看来，物体的外形不过是光的象征，所以作画时候并不在意具体外形，而是先观察和快速记录下反射的光影，随着笔触和色彩的堆叠，形状会自然浮现。这种独创的画法被称为“以光补形”。《日出•印象》也许并不是莫奈最出色的作品，但它却触碰了印象派艺术的精髓：不追求真实的情况下，用更为直接和色彩化的方式，表达对事物的种种视觉印象。记录下瞬间的感觉，那种朦胧的印象。
做学问一定要有脉有络，才能形成可持续性生态发展，可以延续继承，也可以另辟蹊径，可以皇亲国戚，也可以草根逆袭，但一定要顺势而为。势，就是以有限的现实（时空或状态）条件去获得的最大可能性，常常在谋篇布局、筹划预备阶段进行安排实施，也可以理解为力的前奏，二者结合起来即为势力。目前，强人工智能的研究脉络还不是很清晰，但基本途径还是数据、算法、算力和实验，正可谓：人工智能的基石是数学。然而，形式化的计算总是建立在理性逻辑推演基础之上的，而人类的智能却常常是拐弯抹角的多种逻辑的叠加推敲斟酌，所以也有人预测：未来强智能的颠覆性标志之一很可能就是：能否产生多种融合性逻辑关系，而且这些复合性逻辑之间也应该不时会产生各种冲突和矛盾，一如莫奈的《日出•印象》和贝多芬的《c小调第五交响曲》（又名命运交响曲）。人工智能就是人机融合的赋能结果，赋能就是赋予功能而不是赋予能力。维特根斯坦从《逻辑哲学论》到《哲学研究》的转变就是从逻辑向非逻辑的转变，就是从功能向能力的转变，这也是从弱智能向强智能的转变。当下，一般认为：人类认知的机制是从态势到形式到局势再到趋势，从视觉到感觉到察觉再到知觉，于是人们依此制造了人工智能这个可以在某些方面（如围棋等）打败自己的产品，并不时惶恐不已，甚至抑郁悲观！殊不知，人类还有一个更厉害的能力没有赋给人工智能：“从态势到形式到局势再到趋势，从视觉到感觉到察觉再到知觉”的逆过程。而且，这个特性只有人才可能具有吧！机器可以正向计算，形成若干方案，人可以从中挑选，进行逆向解读算计，最终结合经验进行取舍。
莱布尼兹有关普遍语言与理性演算的思想应该就是西方人工智能的理论基础，由此衍生出了弗雷格语言哲学中的指称与意义，布尔代数中的二进制表征与集合/逻辑运算，图灵机中的指令编码与运算程序，冯诺依曼结构等。休谟有关事实能否推导出价值的问题则非常可能是解决未来强智能的思想基础，其本质可以看成形式化与意向性之间的变换问题，事实逻辑不同于价值逻辑，前者相对稳定，不因人而异，后者相对变化，众说纷纭，当然有些情况也会反转一下。休谟之问也涉及到计算与算计的合成问题，最后，最重要的事再重复一遍：如果把计算看成是一种相对直来直去的逻辑规则顺序推演，那么算计则可能就是拐弯抹角的多种逻辑的“非规则”融合推演。未来强智能的标志之一可能就是：能否产生复合的、并行融合的逻辑关系。
许国志先生曾介绍过系统论的起源：20世纪20年代，美国贝尔电话公司成立了贝尔实验室，实验室分为部件与系统两个部。四十年代末，人们把贝尔电话公司扩建电话网时引进和创造的一些概念、思路、方法的总体命名为“系统工程”。二十世纪中叶以来，许多学者常用系统来命名他们的研究对象，例如控制理论中的计算机集成制造系统、管理科学中的管理信息系统和决策支持系统等等。随着时代的前进，科技的发展，人们发现事物之间的相互作用变大了，许多问题不得不从总体上加以考虑。于是系统科学应运而生。系统犹如数学中的基本概念之一：集合。但又不同于集合，是一种异构的类集合。人机混合智能系统不同于传统的系统科学，是一种复杂系统，既包括科学部分又涉及非科学部分。计算是定量同构解算，算计是定性异域推理。人机环境系统工程中的计算计难在隐性的间接的态、势、感、知，人、机的区别实质在于态、势的处理差异，人算计势好些，机计算态好些。态涉及客观事实性的状态，势关联主观价值性的趋势。希尔伯特在《几何基础》第一版的扉页引用康德的话：“人类的一切知识都是从直观开始，从那里进到概念，而以理念结束。”，也许这句话只说对了一半吧！毕竟，除了辩证法之外，还有“变”“证”法。不但量子之间有纠缠，态势之间也纠缠，感知之间也纠缠，还有计算之间的纠缠。
自动化：旨在执行重复性任务的计算系统。自主（自治）系统：无需人工干预即可执行任务的系统。在人机系统中，我们特别关注执行复杂推理任务的计算系统，是否也可以考虑人机混合的自主化，即人类的算计+机器的计算所衍生出的计算计自主系统呢？
自动化是以（确定性的）数据计算为核心驱动的，没有自主决策能力，而人类是以（动态性的）信息和知识算计为中心驱动的，能够处理意外情况并能进行尝试和验证。人机混合智能从某种意义上讲，应该是人类算计智能化与机器计算自动化相结合的一种生物物理系统。更重要的是，人的智能在于知道自己的不智能，机器则不然。人类可以跳出概念理解并使用概念，机器自己并不具有拟合出合理概念的能力和方法，只抓了有形的概念，而忘了概念的无形部分。机器还不时出现错把手段当目的、错把结果当成因的情形，如机器强化学习中只有得失没有是非，极易形成“局部最优”而丧失“大势所趋”，正如《菜根谭》里曾说：“行善而不见其益，犹如草里冬瓜”。（如果行善的过程中没有见到报答，好比草丛里的冬瓜，即使人眼看不到，它照样茁壮成长。）。
可解释性的关键在于合适透明性所产生出的信任性，信任性的关键在于理解后的赞同，理解是对意义的把握，即把各种（事实、价值、责任等）可能相关事物有机整合在一起的能力。这个世界是由智能和非智能共同构成的，未来，能够制约智能系统的也许就包含非智能因素吧！读康德的作品只靠理解力是不够的，还需要超强的想象力。
“一”可以产生“多”，“多”可以凝聚成“一”，合久必分，分久必合，在什么情境下“合”，又在什么情境下“分”？“分”“合”的速度、加速度有多快？除了理性之外，情感在这些切换过程中又起到什么作用呢？
十、智能的关键在于等价而不是相等
等价是指价值性的近似大概能力，是一种开放性跨域穿透、自由驰骋、柔性弥散、相关无关，而相等是指事实性的一模一样功能，是一种封闭性约束规范、严格条件、一致边界、同根同源。相等就是在本质上一样，比如可以说2和2相等或相同，等价是指在意义一样，不能说1+1和2相等或相同，只能说等价，这是因为1+1在本质上是算式，而2是数字。细想起来，石头、剪子、布与鸡、虫、棒、虎是等价的而不是相等的。
一般而言，在数学的数学——范畴论里没有相等，只有等价，在范畴论里相等没有意义，在真实的态势感知中相等也没有多少意义，这也是（以相等蕴含静态关系）数学为基础的人工智能手段为什么解决不了真实复杂博弈环境下（以等价类比动态关系）指挥控制问题之关键所在了，态常常相等计算，势往往等价算计，计算是绝对相等，算计也许就是相对等价了，想要获得一些东西，在人的定义里，可以牺牲一些东西，而机做不到这样的算计。微积分、数字电路中的高低实质就是近似等价逼近计算关系。
计算偏重同一性事实，算计注重差异性价值，计算计就是两者的叠加混合。事实与价值常常是混合叠加的，主客观也往往是混合的，纷繁复杂事物的特性既有与观察者有关的部分，也有与观察者无关的部分！所谓“万象归一”，指的是其形芜杂的现象界包含了共同的道理或旨趣。从逻辑模型论的角度上来说，等价与相等关系严格来说并不是一个对象或者符号上的关系，而是一个指称上的关系。相等逻辑符号的解释是固定的，但是等价非逻辑符号的解释是不固定的，给一个模型的时候我们需要解释这些等价非逻辑符号。
只要是喜欢，吃爆肚和登珠穆朗玛峰给予人的享受是等价的，是因为二者的目的都是为了某种满足——英雄欲和食欲的满足，这种满足使人愉快，这种愉快正是人类所共同追求的自我实现。运用什么方式达到自我满足的目的固然有审美趣味、价值观念的差别，但这种差别只有在特定的社会范畴里才具有道德的意义，而就人的意义来讲，任何选择都应该受到尊重，因为事实上它们是同等的价值。
真实对象的相等，不是什么公理下的相等，更不是什么同构下的相等。肯定把函子相等看做定义域、值域、对应法则一样就已经被洗脑了。范畴论或者用别的语言完全可以硬是把两个定义域、值域、对应法则都一样的函数看做两个不同对象，只是这在大部分情况下既没有必要又不符合直觉。这是集合论洗的脑，要治。
人机融合智能之所以可以颠覆，原因是它不但可以植入人工智能所不具备的反思能力和自主创造能力，而且还可以解决人工智能所不能解决的知识相悖性和无穷性。学科交叉、领域融合的目的就是寻找他山之石的等价工具、方法、机制、机理、原则、规律，去掉原有学科领域的狭隘、固执、寸光、静态、相等。
“不战而屈人之兵”的本质是用人机环境系统的优势置换为势态认知的优势问题进而压迫对方屈服让步，一战时期德国毛奇元帅说的“枪声一响，作战计划就变”是指博弈挤压后双方态势感知的变焦、变异、变形。
智者经常与事实保持距离，同时把责任变成价值，所以既是观察者又是体验者。博弈组织结构、态势情境、感知觉察会变得能够迅速变形，同时又能够迅速地重组，还能迅速地进行物理、数理、心理转移。由此导致整个博弈结构就像李小龙说的“be water”，具有着高度的流动性，形成了一系列局外人无法搞懂的局势性知识。
十一、智能的危险
有人认为，在中国近代，科学技术都是作为一种“先进”、“文明”角色出现，给中国人带来了“科学是好的”的观念，一直影响至今。我们潜意识里认为：科学=正确。我们理解的“科学”总是带有某种正面价值。当我们说“这不科学！”时，表达的意思是“这是不对的”。实际上，科学同样具有负面的效应，氟利昂、DDT等科学技术都带来了负面的效应。那么科学技术到底是什么呢？同样，AI、互联网、原子弹到底是什么呢？也许它们是一柄悬在人类头顶上的达摩克利特之双刃剑。
凡事有好就有弊，手机不例外，智能也不例外。在人机环境系统动态交互（产生智能）时，由于时间、空间、对象、属性、关系、条件、规则、情绪、状态、趋势、感知等的变化，智能中的方式、方法、方案、手段、工具都会做适当的调整和重新组合，正可谓：时变法亦变。智能需要解决的常常是面对的真实问题，比如安全威胁、高效处理、准确预测等等。智能包含着过去的经验和数据，但不会仅仅依赖这些过去，它包还含着未来对此时的影响，比如期望的反馈。一般而言，不能随机应变的智能应该不是真智能。
对生理疾病而言，对症下药是常识，对智能而言，也没有医治百病的万能智能。所有的智能和认知都有范围，包治百病的是假药，万能的智能就是假智能。即使是真智能，也有副作用，比如聪明反被聪明误（有时是由于环境的随机变化造成的），所以真实的智能也是有缺点的，但这些缺点与自动化的缺点不同，一活一死，智能缺点最大的特点是可以被自主适时修补、完善！而自动化的缺点却不能够如此，多少有点覆水难收的味道。
人机环境之间的不断交互变化，决定了世界上没有一样的识别任务模式，“橘生于南则为橘，橘生于北则为枳”的例子在智能领域也不少见，机器的智能可以辅助人的学习、推理、决策，同样也可以干扰人的推理和判断，“好心”办坏事，不但存在于人人之间，还会出现在人机之间，比如AI助手的主动性接管问题等，再者，由于复杂问题的千丝万缕，许多不可解释、不好解释、不应解释、不便解释的事物比比皆是，人心难测，何况机芯，用一些情境不同设计出来的算法计算结果试图实时影响、校验、纠正、改变人的直觉、思考结果，如果是小打小闹也就罢了，对那些决定人类命运的大事件宏命令，万一有个三长两短和闪失，哪个敢负这个责任？
人机交互、人机混合、人机融合智能……中人工智能AI可以帮助人，也可以阻碍人，还可以毁掉人……，做这些工作或申请项目时，望不要光看AI好的一面，还希望评审者、管理者也能客观地看到其不好的一面，在不少情境任务下，不好的概率可能更高一些！
仔细想想，任何事物都不会无中生有，凡事都有苗头和兆头，人机融合就是能够及时（恰如其分）地捕捉到这些零零碎碎的迹象和蛛丝马迹，太快太慢都不好，“率先看到、率先作出决定、率先采取行动”，不一定由此能够更快地摧毁敌人。有时，慢一点未必不是一个好的选择，太快了也许更容易上当受骗吧！人工智能起重要作用需要几个条件：首先是找到数学定量计算就能解决的部分，其次与人融合过程中使该AI部分找到适当的时机、方式和作用，最后，人做对的事，AI“把事情做对”。
古有《孙子兵法》之谋略，近有《战争论》之战术，未来的可能为《人机环境系统融合》之思想。人有道，机有器。智能讲看得见的得失（机“器”过程）、多少（事实大小），智慧讲看不见的有无（人“道”方向）、是非（价值比较）。正可谓：未来的博弈态势中除了天时、地利、人和之外，还应有“机辅”。
1、过度依赖AI易造成失去人性中的自信、果敢和勇气等，就像攀岩者对绳索的依赖。有时不借助绳索，会增强人的信心，有时相反，有了绳索可以克服恐惧感，做出没有绳索不敢做的动作。如何在开发、使用AI方面平衡两种情形情形要因人而异，因机而异，因环境而异。南安普顿大学风险管理副教授Yaniv Hanoch 领导团队的新研究表明，与没有任何影响因素的行为相比，机器人会鼓励人们在模拟赌博场景中承担更大的风险，AI呢？
2、人类群体智能时，常常会产生心理上的从众或其它现象，机器群体智能也许不会，人机融合的群体智能也涉及上面问题，如何实现“三个臭皮匠顶个诸葛亮”的问题，尤其是这三个臭皮匠里还有机器皮匠。
3、人们使用机器智能的动态程度大小会造成某种不确定性，不同的人对同一机器智能的协同辅助感受是不一样的，同时，机器智能进化、变化、演化情况也是不同的，还有，人机融合中人对机器智能的难易感受也是变化的。这些变化常常会导致人机之间失调、失配、失互程度加剧，这与日常使用手机的效果是不同的。
4、人的智慧可以通过直觉绕弯变向跨域超界交叉处理各种简单的复杂，而机器智能却很难通过上面的技巧方法非逻辑手段非奇异性工具解决各样复杂的简单，原因是机器智能的基础是数学相等/包含原则，而人类智慧的源泉是复杂等价/类比常识。当然，这并不意味着人的智慧不会有错误、失误存在，但人的智慧里更有反思纠正修补完善功能作用，而且还是自主性的，比如伦理、道德、契约、法律等的形成和演化。所以，尽管智能化可能、可以提高战场感知能力，但“战争迷雾”依然存在，人工智能也将增加军事系统体系的复杂性，在复杂的政治偏好和道德价值观等方面，人工智能将不会发挥重要作用，人工智能可以为人类提供事实性决策支持，让人类对价值和行为做出最终判断。
5、过去，大家强调“天时地利人和”；当前，人们更需要的是能够纠错的辅助决策系统，以及有限制的人机融合智能系统，而不是通用的、想象的、大包大揽的、无处不在的、无所不能的“上帝”—机器智能；未来，人机环境系统的“天时地利人和机辅”或许将更受青睐，以免聪明反被聪明误。
人工智能军事应用的脆弱性和不确定性主要就体现在人工智能的机制机理上。人工智能大概分三大门派，一是以模仿大脑皮层神经网络及神经网络间的连接机制与学习算法的联结主义（Connectionism），主要表现为深度学习方法，即用多隐层的处理结构处理各种大数据；二是以模仿人或生物个体、群体控制行为功能及感知-动作型控制系统的行为主义（Actionism），主要表现为具有奖惩控制机制的强化学习方法，即通过行为增强或减弱的反馈来实现输出规划的表征。三是以物理符号系统（即符号操作系统）具有产生智能行为的充分必要条件假设（Newell and Simon，1976）和有限理性原理为代表的符号主义（Symbolicism），主要表现为知识图谱应用体系，即用模拟大脑的逻辑结构来加工处理各种信息和知识。正是由于这三种人工智能派别的取长补短，再结合蒙特卡洛算法（两种随机算法中的一种，如果问题要求在有限采样内，必须给出一个解，但不要求是最优解，那就要用蒙特卡罗算法。反之，如果问题要求必须给出最优解，但对采样没有限制，那就要用拉斯维加斯算法）使得特定领域的人工智能系统超过人类的智能成为了可能，如IBM的Waston问答系统和Deepmind的AlphaGo围棋系统等。尽管这些人工智能系统取得了骄人的绩效，但仍有不少缺陷和不足之处，而且还有可能产生很大的隐患和危险。
首先分析一下让人工智能在当下火热烫手的联结主义。当前的人工智能之所以高烧不退，其主要的力量源泉是2006年Hinton提出的深度学习方法大大提高了图像识别、语音识别等方面的效率，并在无人驾驶、“智慧+”某些产业中切实体现出助力作用。然而，任何一种算法都有其不完备性，深度学习算法也不例外。该方法的局限性和不足是最好使用在具有可微分（函数连续）、强监督（样本数据标定很好、样本类别/属性/评价目标恒定）学习、封闭静态系统（干扰少、鲁棒性好、不复杂）任务下，而对于不可微分、弱监督学习（样本分布偏移大、新类别多、属性退化严重、目标多样）、开放动态环境下该方法效果较差，计算收敛性不好。另外，相对于其他机器学习方法，使用深度学习生成的模型非常难以解释。这些模型可能有许多层和上千个节点；单独解释每一个是不可能的。数据科学家通过度量它们的预测结果来评估深度学习模型，但模型架构本身是个“黑盒”。它有可能会让你在不知不觉间，失去“发现错误”的机会。再者，如今的深度学习技术还有另一个问题，它需要大量的数据作为训练基础，而训练所得的结果却难以应用到其他问题上。如何在各种现实情境任务中恰如其分地解决这些问题，就需要结合其他的方法取长补短、协调配合。
其次，对于行为主义中的增强学习，它的优点是能够根据交互作用中的得失进行学习绩效的累积，与人类真实的学习机制相似。该方法最主要的缺点是把人的行为过程看的太过简单，实验中往往只是测量简单的奖惩反馈过程，有些结论不能迁移到现实生活中，所以往往外部效度不高。还有，行为主义锐意研究可以观察的行为，但是由于它的主张过于极端，不研究心理的内部结构和过程，否定意识的重要性，进而将意识与行为对立起来，进而限制了人工智能的纵深发展。
最后是符号主义及其知识图谱，符号主义属于现代人工智能范畴，基于逻辑推理的智能模拟方法模拟人的智能行为。该方法的实质就是模拟人的大脑抽象逻辑思维，通过研究人类认知系统的功能机理，用某种符号来描述人类的认知过程，并把这种符号输入到能处理符号的计算机中，就可以模拟人类的认知过程，从而实现人工智能。可以把符号主义的思想简单的归结为“认知即计算”。从符号主义的观点来看，知识是信息的一种形式，是构成智能的基础。知识表示、知识推理、知识运用是人工智能的核心，知识可用符号表示，认知就是符号的处理过程，推理就是采用启发式知识及启发式搜索对问题求解的过程，而推理过程又可以用某种形式化的语言来描述，因而有可能建立起基于知识的人类智能和机器智能的同一理论体系。目前知识图谱领域面临的主要挑战问题包括：a.知识的自动获取；b.多源知识的自动融合；c.面向知识的表示学习；d.知识推理与应用。符号主义主张用逻辑方法来建立人工智能的统一理论体系，但却遇到了“常识”问题的障碍，以及不确知事物的知识表示和问题求解等难题，因此，受到其他学派的批评与否定。
对于人工智能军事应用而言，智能化作战要素可简单概括为“人”“武器”和“谋略”，三者之间的统筹结合是影响战争胜负的关键。历史上每一次变革都促使“人”与“武器”结合得越来越紧密。然而，人工智能的内涵与核心是使机器具有近似于人的思维和能力，即让“武器”具备“人”的“谋略”能力。因此，智能化作战的突出特征就是智能自主，其脆弱性和不确定性也就表现在这些方面：
１．自主感知战场态势还较弱。好的军事感知系统可以多维度空间的探测、侦察、扫描、感知等智能化新型技术手段为基础，自动分析获取敌方、我方和友方兵力部署、武器装备、兵力运用和战场环境等信息，自主形成战场态势分析图。但是理想很丰满，现实却很骨感，包括最先进的美军在这方面差距也很大。
２．自主交互作战规划不完备。根据作战指挥员的意图，以战场情报信息为基础，自行设计并提供多套作战方案或行动计划，供作战指挥员灵活选择，同时，进行战场态势判断，提出作战方案并验证方案的可行性。而实际上，这方面的技术应用对于指控人员而言，常常是“只有苦劳，没有功劳”的抱怨，原因是人机往往失配。
３．自主规划作战任务不可解释。理想的无人作战系统能够围绕筹划阶段的决心方案，自主研究生成作战行动总体计划和分支计划，并围绕实施阶段的动态决心，自主完善原有作战计划或进一步生成更为可行的作战计划。其具有根据全程动态，自主设计生成作战计划，并有自主循环验证作战计划的能力。但是当算法复杂到一定程度时，这些理想状态就会生成许多矛盾，变得无法说明。
４．自主实施作战行动违规。无人作战系统在联合作战体系的支撑下，自主进行目标侦测和信息识别，并根据目标的性质、位置、作用、大小、状态等信息，自主按计划实施精确攻防行动，实现作战效能精准释放。同时，自动分析、处理作战任务与目标需求、自主深度计算与精确匹配作战要素、统筹高效运用体系作战效能。实际上，不要说这些系统的技术还远远没有成熟，即使成熟了也不能使用，因为违反《特定常规武器公约》（CCW）要求。
5．自主评估作战效果还得不到保障。目前，各国在战场毁坏评估方面还存在一些问题，较难获得高精度、实时性毁伤评估信息。有人-无人作战单元完成打击任务后，自主对打击效果信息进行采集整理、分级分类，同时基于大数据分析比对，评估毁伤效果，并依据效果规划制定下一轮打击决策。这将从根本上解决目前主要靠抵近侦察进行毁伤效果评估的困难局面，但是对此还没有好的解决办法。
现在的自主为什么说是“伪自主”？原因是其底层的技术架构：机器学习和大数据处理机制局限所致。无论行为主义的强化学习、联结主义的深度学习，还是符号主义的专家系统都不能如实准确地反映人类的认知能力，比如直觉、情感、责任、价值、荣誉等。
目前国内外的军事智能化本质上都还是自动化或高级自动化（加了统计概率的自动化）的基本框架（即大数据、智能、移动、云计算的混合），没有充分挖掘实时开放、强对抗性和不确定性战场环境下人、机、环境之间相互作用的本质特征、机理及其对未来作战方式、战略战术的影响。在真实环境中往往不能充分发挥人和机器智能各自的优势，在人机混合系统的输入端割裂了数据/信息/知识整合输入，处理过程中阻断了公理/非公理混合推理、输出方式离散了直觉/逻辑联合决策。简单地说，就是没有形成一套完整的以深度态势感知（包括事实与价值）为决策中心的指控系统和人、机、环境关联耦合的人机融合智能基础科学理论体系。单纯的人工智能军事应用未来的前景具有上述的脆弱性和不确定性，所以前景不容乐观，如何克服这些弱点和缺点，目前世界各国都在抢占这个技术制高点，我们也不能束以待毙，形成良好的人在环的军事人机环境融合智能化将是一个大趋势。
十二、人机融合智能中的关键性问题
目前，尽管人工智能风头正劲，却仍存在着许多难点，诸如多模态信息融合、小样本学习、逻辑/非逻辑推理、直觉决策与逻辑决策等等。现如今的人工智能基本上都是以数学手段为主的形式化事实计算，而缺少意向性的价值算计，这意味着目前的人工智能更加偏向于自动化，只是由人的程序设计来实现自身的功能，缺乏自主性或主动性，这与我们心中的期望智能相去甚远。目前的人、机器智能之间还是存在很大的差距，对于机器而言，基于规则条件和概率统计的决策方式与基于情感驿动和顿悟冥想的判断机理之间存在着巨大的鸿沟，其中情感驿动、顿悟冥想的选择判断机理是人类特有的。比如说，从内在起源上看，人类具有动机性，但是机器并不具备，然而想要让机器产生动机性，却是很难被表征出来的。再比如说常识（众多混杂事物的大概率），人很容易拥有常识，但是机器很却难形成。还有决策，人的决策分成三大部分：理性决策、描述性决策与自然决策，机器想要“智能”的做决策，就需要将人的这几种决策模式融合，在不同的时间或者情景压力下建立不同的决策。因而，作者提出了人机融合智能才是人工智能未来的发展方向。
人机融合智能起源于人机交互和智能科学这两个领域。人类有人类的优势，也有人类的弱点，而机器有机器的优势，同样也存在机器的缺点。人类的计算能力不强，但是人类可以打破逻辑，运用直觉思维进行决策，机器虽有计算却无算计，但是却能够检测到人类感觉无法检测到的各种信号。所以人可以处理其擅长的包含价值取向的主观信息，机器则可以计算其拿手的涉及规则概率统计的客观数据，需要意向性价值的时候由人来处理，需要形式化事实的时候由机器来分担。只有这样将人类的优点和机器的优点相结合，取长补短，才能更好的实现人工智能。
因此，作者提出，人机融合智能就是由人、机、环境系统相互作用而产生的一种新型智能系统。在智能的输入端，它是把设备传感器客观采集的数据与人主观感知到的信息、知识结合起来，形成一种新的输入方式；在智能的数据/信息中间处理过程，机器数据计算与人的信息认知（算计）融合起来，构建起一种独特的理解途径：公理推理+非公理推理机制；在智能输出端，它把机器逻辑运算结果与人的价值（直觉）决策相互匹配，形成概率化与规则化、灵感化有机协调的优化判断。
当前的人机融合智能就是人把一部分说清楚的智能先放到机器中，然后根据外部任务环境的变化结合自己说不清楚的智能去实施完成目标的过程。未来的人机融合智能还可能加上机器自己产生的智能。人类智能及智慧的关键在于变、通以及通、变，变表征、变目标、变推理、变前提、变决策、变行动，相比之下，机器的变显得比较生硬和模式化，没有把变和通的关系处理好。can不仅仅是一个伦理问题，更是一个智慧问题，或者说是一个融合了责任和智能的问题。所以说，真正人类智能的弹性体现在“道”和“得”（德）的取舍中，是事实与价值的共同表征和体现，是being、should、can、want、change等一多共在的问题。一些智能方法只是通过深度学习神经网络对专家知识库进行集合和收敛，代表已有的先验知识。而无法对新产生的数据和信息进行处理，即无法将后验知识升级为先验，也无法发现隐含知识。所以，它的作用在于集大成，而没有创新能力。这有点像教育，学校的任务是将知识点教授给学生（有点像机器学习一样），但教育不只是教授知识点，教育应该挖掘知识背后的逻辑，或者是更深层次的东西。比如，我们在教计算的时候，其实要去想计算背后是什么。我们首先是应该培养学生们的数感，再去教他们计算的概念，什么是加、什么是减，然后教怎么应用，进而形成洞察能力。
人机融合的实质是要处理变与不变的关系，中国人常常称之为“易”中的“变易”和“不易”。人的变与不变是由价值驱动的，机器的变与不变常常是由事实驱动的，尽管机器也会带有造机者的一些观念和习惯，但机器终究还是不能实现变化情境中有意义的选择和决策。例如用户画像，即用户信息标签化，通过收集用户的社会属性、消费习惯、偏好特征等各个维度的数据，进而对用户或者产品特征属性进行刻画，并对这些特征进行分析、统计，挖掘潜在价值信息，从而抽象出用户的信息全貌。如何实现动态的用户画像更重要。
从根本上说，人机融合智能就是人类智慧与机器智能（AI）根据外部环境的变化有效联动的过程，其根本问题也是“良序”的问题，只不过这个“良序”既包括事实性交互序列，也包括价值性交互序列，既包括事实性因果序列（如Pearl的因果关系，这也是他的“狡猾”和“狭隘”之处：只论事实不论价值），也包括价值性因果序列（如宗教的因果关系）。人机共同完成一个任务甲，可以看成一个由若干子任务（a、b、c、d……）构成的序列，这些子任务的要求都是根据外部环境的变化而变化的，既有构成要素、属性的变化，也有本身、相互之间关系的变化，简单地说，既有客观事实性变化，也有主观价值性变化，如何高效地组织好这些主客观子任务序列呢？或者说，如何更快、更好、更巧地形成良序呢？
面向深度态势感知的人机协同就是把群体+个体中感性与理性、表象与概念、仁义道德有机结合形成良序的过程，是（多）人（多）机（多）环境的系统工程，计算的算法是其中可程序化的一部分，算计的算法是其中可描述的一部分，除此之外，还有直觉顿悟、半真半假、半信半疑、半推半就等主客观融合的不可描述的随动部分，如何实现这些复杂系统的良序整合，或许已超出现有数学、科学的范畴！
人机融合智能中深度态势感知终究不是数学意义上的集合问题，原因在于其中的元素是非同构非同类的，而且会有相同元素（非互异性）产生出现。所以我们可称之为泛集合/伪集合问题。现代深度态势感知的研究已从对“态”的研究转移到“势”上，已从简单的“计算”研究转移到复杂的“计算”与“算计”混合研究上，已从客观“事实”研究转移到“价值”研究上，即人机融合态势感知上。就像“鸡蛋从外向内打破是煎蛋，从里面打破飞出来的是生命。”这句话体现出的那样：从一个客观对象延伸到主观事物。一个智能系统的扩张是客观世界的需求和内在逻辑双重引导下的产物，正如事实好编码（空间时间编码），价值却很难编码。信息就是有价值的数据，是一种人物环境系统交互的产物。态势感知SA中态、势、感、知四个循环如何产生共振共鸣？将是OODA环最优化的关键。其中态与感属于外循环，势与知属于内循环，这两大循环的相互促进十分重要，外循环要“看得准、听得清”，内循环就是“拎得清，判得准”。传统的拓扑学主要研究在连续变形下关于几何形状的不变性质。而认知的拓扑则是研究在连续变化态势下关于感知的不变性质，既包括事实类（时间、空间两个维度），又包括价值类（情感、意向、责任三个维度）。
目前，智能领域的瓶颈还是人机融合智能中的深度态势感知问题，例如未来的战争不仅是智能化战争，更是智慧化战争，未来的战争不但要打破形式化的数学计算，还要打破传统思维的逻辑算计，是一种结合人机环境系统优势互补的新型计算-算计系统。智慧化战争是基于人+物+环境互联网络数据信息知识系统，人使用智能化武器装备及相应作战方法，在陆、海、空、天、电、网及信息、认知、社会领域进行的一体化战争。通俗讲，是以人机环境系统融合智能认知技术手段为支撑的战争。智能认知是指在数据、信息、知识输入不充分或充满相斥干扰条件下的感觉、分析、判断、决策综合优化过程。它涉及输入、处理、输出、反馈等过程，智能感知只是智能认知的输入阶段。狭义的智能认知是指机器的输入、处理、输出、反馈等过程，是一种没有指涉对象的形式化符号（如数学）系统，这也是机器智能之所以不可理解、不能终身学习、难以形成常识的根本原因；广义的智能认知是指人机环境系统的输入、处理、输出、反馈等过程，是一种能够把指涉对象的符号系统（如人的自然语言等）、无指涉对象的机器形式化符号（如数学）系统与任务环境改变有机结合的系统，这也是广义智能认知（人机融合智能）之所以可理解、有意识、易跨域、富弹性、擅变化、超人智的根源。
所谓结构主义可以上溯到本世纪初，在语言学中有索绪尔提出的关于语言的共识性的有机系统的概念和心理学中有完形学派开始的感知场概念。此后在社会学、数学、经济学、生物学、物理、逻辑……各学科领域中都在谈结构主义，但是结构主义的共同特点是什么？这却是一个等待回答的问题。
实际上，结构主义的共同特点有二，第一是认为一个研究领域里要找出能够不向外面寻求解释说明的规律，能够建立起自己说明自己的结构来；第二是实际找出来的结构要能够形式化，作为公式而做演绎法的应用。于是他指出结构有三个要素：整体性、具有转换规律和法则、自身调整性；所以结构就是由具有整体性的若干转换规律组成的一个有自身调整性质的图式体系。这样一个概念很抽象；结构存在的模式要在各个研究领域里才能精确说明，所谓结构，也叫做一个整体、一个系统、一个集合。一个结构的界限，要由组成这个结构的那些转换规律来确定。而所谓转换，在有的学科中，译为变换，就是表示变化的规律，通常用一个以上的数理逻辑公式来表示。公式在具体生活中的应用就是具体的运算，而这种公式原来就是从具体的运算中抽象出来的，所以运算是形成结构的基础。在各种科学认识里，计算的第一性是结构主义的关键，而在各种复杂性认识里，计算计（计算+算计）的第一性是结构主义的关键。
人机融合智能是人机并行结构，人中有机、机中有人；人机混合则是人机串行结构，人停机动，机停人动。辅助决策或辅助驾驶严格意义上而言都是人机融合，人机双方同时都在工作，即双方良好的协同在于一致性的随时备份状态，若一方跟不上对方的节奏，可能就会出现冷启动长延时的高事故风险；打字或称重基本上就是人机混合，人机串行而动。图灵认为：计算者任一时刻的行为都由彼时他观察到的符号和彼时他的“思维状态”决定。现在有人提人机交互、人机混合、人机融合的区别，深入地研究能够对计算、感知、认知、洞察机制机理会有更多更新的认识。
什么是知识？什么是概念？什么是理解？什么是共识？为什么智能要研究哲学、伦理、非逻辑等？在人工智能需求与应用如雨后春笋般涌现之后，我们还是需要静下心来，对人工智能的发展之路进行深入地思考，或许才能更深层次地了解智能，并建构出更加符合期待中的人工智能、智能、人机混合智能体系，修修补补又三年的方式很难实现新的突破，正如大家对知识图谱里的“知识”感觉一样，再如，据说与阿尔法狗/元这种人工智能系统下棋时，最好的结果常常不是要多看几步的“高瞻远瞩”而是紧盯眼前的“鼠目寸光”比较好些。
也许原创不是技术活，更多地是一种内心的主观想法。它原本不存在，你要让大家相信它，这里的难点，不在于工程实现，而在于坚定的世界观和先信仰后理解的洞察力吧！