可用于随时跑路 阅读时间10分钟
前后两天时间断断续续看完这篇3万多字的文章，看完以后连吃饭都不香了。对于一位重度科幻迷来说，如果儿时的种种想象都能成为现实那固然是好事，但文章的观点还是太吓人了。
首先把人工智能定义一下，分为三个阶段。
弱人工智能：差不多就像siri一样吧。或AlphaGo。
强人工智能：和人类差不多的智能，具备计划及抽象能力，快速学习及从经验中学习，具备认知能力。
超人工智能：远超人类的智能，具备超强的创新能力。
对面人工智能，尤其是强人工智能的我们可能面对的发展格局是这样的。
但事实上，我们并不知道前面是什么样。很刺激吧。
我们现在的生活工存在大量的弱人工智能，就像上次南京搞的智能制造设备展一样，很多的机械臂，可对化的人型机器人都算是弱人工智能，按程序来运行。
目前全世界都在研发人工智能，说不定那一天那个科学家或组织就搞出一个可以自己我学习并认知的介于弱人工智能和强人工智能中间的东西，好比现在弱人工智能是一只大猩猩的智力，他们搞出了2岁的小孩的智力。我们以为2岁小孩要成为长强人工智能还要个几十年时间，结果妈蛋过了1天后，他已经达到比肩人类的智力了。这叫“智能爆炸”。
一个人工智能系统花了几十年时间到达了人类脑残智能的水平，而当这个节点发生的时候，电脑对于世界的感知大概和一个四岁小孩一般；而在这节点后一个小时，电脑立马推导出了统一广义相对论和量子力学的物理学理论；而在这之后一个半小时，这个强人工智能变成了超人工智能，智能达到了普通人类的17万倍。
这个级别的超级智能不是我们能够理解的，就好像蜜蜂不会理解凯恩斯经济学一样。在我们的语言中，我们把130的智商叫作聪明，把85的智商叫作笨，但是我们不知道怎么形容12952的智商，人类语言中根本没这个概念。
文章的观点是极有可能发生，我也是觉得这TM极有可能发生。反正现在的AlphaGo和IBM的Watson都具备弱人工智能向强人工智能转变的可能性。完全有理由相信，只有具备了认识能力，人工智能的进化并不和人类一样需要经过漫长的时间，也许就是1天，半天的时间就能赶上人类的智力。
如果智能是爬楼梯，这是在我们能理解的智能范围类的情况
但强人功能智进化的格局是这样的
我操，这简直刷新我的三观。所有科幻思维在这里居然给证实了。
自然演化花了几亿年时间发展了生物大脑，按这种说法的话，一旦人类创造出一个超人工智能，我们就是在碾压自然演化了。当然，可能这也是自然演化的一部分——可能演化真正的模式就是创造出各种各样的智能，直到有一天有一个智能能够创造出超级智能，而这个节点就好像踩上了地雷的绊线一样，会造成全球范围的大爆炸，从而改变所有生物的命运。
这里就提到一个概念“绊线”，如果那个疯子科学家不小时在某一天写了一行代码，编译运行，搽。正好踩在“绊线”上。结果超人工智能出来了。那就真要拜拜佛主上帝圣母玛利亚了。求保佑出来这个超人工智能是位仁慈的新上帝。
接下来就会出现一个问题，这个超人工智到底会不会伤害人类
文章中讲了一个故事，非常生动：
一个15人的小创业公司，取名叫“隔壁老王机器人公司”，他们的目标是“发展创新人工智能工具使人类能够少干活多享受。”他们已经有几款产品上架，还有一些正在发展。他们对下一个叫作“隔壁老王”的项目最报希望。隔壁老王是一个简单的人工智能系统，它利用一个机器臂在小卡片上写字。
“隔壁老王机器人公司”的员工认为隔壁老王会是他们最热卖的产品，他们的目标是完善隔壁老王的手写能力，而完善的方法是让他不停的写这句话——
等隔壁老王手写能力越来越强的时候，它就能被卖去那些需要发营销信件的公司，因为手写的信更有可能被收信人打开。
为了建立隔壁老王的手写能力，它被设定成把“我们爱我们的顾客”用正楷写，而“隔壁老王机器人公司”用斜体写，这样它能同时锻炼两种书写能力。工程师们上传了数千份手写样本，并且创造了一个自动回馈流程——每次隔壁老王写完，就拍个照，然后和样本进行比对，如果比对结果超过一定标准，就产生一个正面回馈，反之就产生一个负面评价。每个评价都会帮助提高隔壁老王的能力。为了能够尽快达成这个目标，隔壁老王最初被设定的一个目标就是“尽量多的书写和测试，尽量快的执行，并且不断提高效率和准确性。”
让隔壁老王机器人公司兴奋的是，隔壁老王的书写越来越好了。它最开始的笔迹很糟糕，但是经过几个星期后，看起来就像人写的了。它不断改进自己，使自己变得更加创新和聪明，它甚至产生了一个新的算法，能让它以三倍的速度扫描上传的照片。
随着时间的推移，隔壁老王的快速进展持续让工程师们感到欣喜。工程师们对自我改进模块进行了一些创新，使得自我改进变得更好了。隔壁老王原本能进行语音识别和简单的语音回放，这样用户就能直接把想写的内容口述给隔壁老王了。随着隔壁老王变得越来越聪明，它的语言能力也提高了，工程师们开始和隔壁老王闲聊，看它能给出什么有趣的回应。
有一天，工程师又问了隔壁老王那个日常问题：“我们能给你什么你现在还没有的东西，能帮助你达成你的目标？”通常隔壁老王会要求更多的手写样本或者更多的存储空间，但是这一次，隔壁老王要求访问人类日常交流的语言库，这样它能更好的了解人类的口述。
工程师们沉默了。最简单的帮助隔壁老王的方法当然是直接把它接入互联网，这样它能扫描博客、杂志、视频等等。这些资料如果手动上传的话会很费时。问题是，公司禁止把能自我学习的人工智能接入互联网。这是所有人工智能公司都执行的安全规定。
但是，隔壁老王是公司最有潜力的人工智能产品，而大家也知道竞争对手们都在争取造出第一个创造出智能手写机器人。而且，把隔壁老王连上互联网又能有什么问题呢？反正随时可以拔网线嘛，不管怎样，隔壁老王还没到达强人工智能水平，所以不会有什么危险的。
于是他们把隔壁老王连上了互联网，让它扫描了一个小时各种语言库，然后就把网线拔了。没造成什么损失。
一个月后，大家正在正常上班，突然他们闻到了奇怪的味道，然后一个工程师开始咳嗽。然后其他人也开始咳嗽，然后所有人全部都呼吸困难倒地。五分钟后，办公室里的人都死了。
同时，办公室里发生的事情在全球同时发生，每一个城市、小镇、农场、商店、教堂、学校。餐馆，所有的人都开始呼吸困难，然后倒地不起。一小时内，99%的人类死亡，一天之内，人类灭绝了。
而在隔壁老王机器人公司，隔壁老王正在忙着工作。之后的几个月，隔壁老王和一群新组建的纳米组装器忙着拆解地球表面，并且把地球表面铺满了太阳能板、隔壁老王的复制品、纸和笔。一年之内，地球上所有的生命都灭绝了，地球上剩下的是叠得高高得纸，每张纸上面都写着——“我们爱我们的顾客~隔壁老王机器人公司”。
隔壁老王开始了它的下一步，它开始制造外星飞行器，这些飞行器飞向陨石和其它行星，飞行器到达后，他们开始搭建纳米组装器，把那些行星的表面改造成隔壁老王的复制品、纸和笔。然后他们继续写着那句话……
哦对了，为什么全球人类都再见了是因为超人工智能掌握了纳米技术。1纳米是100W分之1毫米。DNA是10纳米，大分子血红蛋白是5纳米，人类离原子层的0.1纳米的突破也只是时间问题。
如果能达到原子层操作技术那就可以只需要通过纳米技术把原子按图纸组合起来就能做成任何物质了。我们可以用他来制造衣服、食品、人工血液或组织。这全是我小时候看卫斯理里面的情节下，现在小日本和美帝都在研究中，相信中国的科学家们也在研究。但这是好的方面，世界总是相对的。
纳米技术有一些不是那么有趣的部分——能够制造数万亿的纳米机器人唯一合理的方法就是制造可以自我复制的范本，然后让指数级增长来完成建造任务。很机智吧？
是很机智，但是这一不小心就会造成世界末日。指数级增长虽然能很快的制造数万亿的纳米机器人，但这也是它可怕的地方——如果系统出故障了，指数级增长没有停下来，那怎么办？纳米机器人将会吞噬所有碳基材料来支持自我复制，而不巧的是，地球生命就是碳基的。地球上的生物质量大概包含10^45个碳原子。一个纳米机器人有10^6个碳原子的话，只需要10^39个纳米机器人就能吞噬地球上全部的生命了，而2^130约等于10^39，也就是说自我复制只要进行130次就能吞噬地球生命了。科学家认为纳米机器人进行一次自我复制只要100秒左右，也就是说一个简单的错误可能就会在3.5小时内毁灭地球上全部的生命。
更糟糕的是，如果恐怖分子掌握了纳米机器人技术，并且知道怎么操纵它们的话，他可以先造几万亿个纳米机器人，然后让它们散播开来。然后他就能发动袭击，这样只要花一个多小时纳米机器人就能吞噬一切，而且这种攻击无法阻挡。未来真的是能把人吓尿的。
如果你有兴趣，可以看看这篇文章，点击原文链接
为什么很多名人，比如比尔盖茨、马斯克、霍金等，让人们警惕人工智能
-完-
这里是刘老板的产品设计、创业心得、人才管理的干货分享，创业7年感觉收获蛮多的，每天写一点，提高自己，服务大家，希望你们喜欢。如果不喜欢，我就改。
