2018年2月14日读书笔记

阅读2小时，总计398小时，第376日。

读完《人工智能时代》。

30年过去了，在我经历了几家创业公司之后，终于决定抑制自己的创业热情，准备退休。但是，我发现自己并没有真正准备好，还不能平静地开始老年生活。机会为我开启了一扇崭新的门：我被邀请回斯坦福大学人工智能实验室。只是这次，我是作为一位白发航海家，向他们传授在危险的商业海洋中驰骋的技巧。让我惊讶的是，实验室已经变得完全不同了。实验室里的人虽然依旧聪明且充满热情，但是那种共同的使命感已经消失了。这个领域已经细化为一系列学科，跨专业的对话变得更加困难。很多人都专注于自己领域内的下一个突破，但是我担心他们已经失去了更加广阔的视野。这个领域的最初目标——探索智能最基础的本质并以电子形式复制它，已经让位给了优雅的算法和精彩的演示。

为了重燃实验室最原始的精神，我提出要教授一门名为“人工智能的历史和哲学”的课程。当我开始深入研究这一主题时，我警觉地注意到，有些严肃的问题已然呼之欲出。在看了那么多电影之后，我深知大团圆结局并不多见。最近这个领域有了足以震惊世界的新进展，这将会给社会造成重大的影响。但是我们是会优雅地完成这次转型，还是会在这个过程中变得遍体鳞伤？我并不确定。

人类很容易被眼前的利益所欺骗。具有先见之明的思想家杰伦·拉尼尔（JaronLanier）把这种系统称为“海妖服务器”（sirenservers），它会根据你的意愿为你量身定制短期激励，劝你去做一些并不符合你长期利益的事。冲动消费和快速送达所带来的无法抗拒的诱惑可能会蒙蔽你的双眼，让你看不清它对你所珍视的生活方式造成的缓慢而具有毁灭性的影响。你可以今天晚上就在网上购买一个电饭煲，明天就会送到，但是其中的价值并不包括你家附近慢慢关闭的商店和你正要失业的邻居。

我们马上就会发现，马克思是对的：资本（其利益由管理者操纵）和劳动力之间的矛盾不可避免，而最终失败的则是工人。但他并不认同“我们所有人都是工人”的观点，比如经理、医生以及大学教授。作为一位经济学家，马克思在还没有想到人造劳动者的时候，就理解了工业自动化会用资本取代劳动力。但是他无法预见的是，合成智能也能用资本来取代人的头脑。所以他描述的低收入工人和高收入管理者之间的矛盾（人对抗人）并没有切中问题的要害。真正的问题在于，富人仅仅需要不多的人（如果还需要的话）来为其工作。虽然听起来很奇怪，但是未来的矛盾来自资产和人，因为我们通过创造而积累的资源并没有什么建设性的用途，或者并没有被应用到生产上。可能只有所谓的1%的人会成为今天这些趋势的受益者，但是如果不对这些拥有资产的人或物设置预警的话，很有可能这仅有的1%也将会缩水到0，就像是古埃及的金字塔一样，抽光整个社会的资源仅仅是为了个人统治者的妄想而服务。要想管控今天我们所了解的经济是极其困难的，可是这样的经济极有可能会在没有人类的情况下自我推动前进，于是更多人被推下了船。最后一个被驱逐下船的人会关灯吗？没关系——灯自己会关的。

研究者们在计算机上模拟了这种结构，至少是以一种非常基本的形式。他们把同一个程序复制了很多份，以模拟神经元的结构：神经元会接收一束输入信号，同时也制造一个输出信号，再重复这个循环。研究者们用这些程序组成不同的网络层，把底层的输出接入到高层的输入。这些连接经常都用数字表示权重，0可能意味着没有连接，而100则意味着强连接。这些程序的精髓在于其自动调整权重的方式，程序会根据出现在网络底层输入端的示例数据而作出调整。研究者只需要提供尽可能多的例子，然后拉动开关在系统中上下传导这些权重，直到系统能够稳定下来。

根据人工智能研究者喜欢人格化的癖好，他们把这些程序称为“神经网络”（neuralnetworks）。但是这些程序是否真的能够像大脑一样工作并不是重点：它只是另一种编程方法而已。

虽然法律界试图保护其成员的生计，但是越来越多的创业公司正在突破现有的界限，他们通过在互联网上提供不同程度、不同形式的自动化法律建议来质疑法律的实践者与实践方式。比如，他们可能为了文件的准确性而雇用了几位律师，这些律师会在把文件发布给客户之前“复审”文档。但是大部分创业公司提供了另外一种格式，他们把个体从业者介绍给客户，确立工作（以及支付）关系，然后双方可以利用该公司提供的大量自动化支持来履行义务。通过提供让律师在家工作的机会，可以避免办公室的费用；而用精心设计的计算机系统来替代熟练的法律助理，可以减少成本，这些实际意义上的法律事务所向从业者们提供了更具吸引力的选择，律师们可以变得更加独立，并且对自己的工作拥有更大的控制权。对于那些无法在传统公司获得初级职位的毕业生来说，这当然是一个绝妙的机会，但是对于那些有经验的合伙人来说，这样的条件也很有吸引力，他们可能厌倦了办公室政治或者不再想把大部分收入交给公司。这些趋势正在拉低高质量法律援助的价格，同时也提高了让上百万潜在客户获得法律服务的机会。