深度学习基础 - 前言

深度学习基础-前言

作者：邵盛松

前面的话

本文更多的是学而思的结果，目的是我想晒出足够多的细节，让别人看到它的魅力。 通过一个线性回归问题把各个学科线性代数，概率论，信息论，微积分等串起来来理解也算式对自己的知识进行系统的总结，对于自己的挑战是能不能把它通俗易懂的说出来。孔子说学而不思则罔，思而不学则殆。学和思要结合起来。同样是读书，结果是不同的。就在我在三角函数里说的，同样是读《几何原本》，里面的第五公设有人认为这不是常识。
罗巴切夫斯基认为不是这样，就有了罗氏几何（双曲几何）三角形的内角和小于180度。
黎曼认为不是这样，就有了黎曼几何三角形的内角和大于180度。
陈省身认为不是这样，就有了微分几何。
同样是读书，高手提出了自己的见解，也就是《孟子》里的《尽心下》里说的：尽信《书》，则不如无《书》。防止出现误人子弟，来源我会注明出处。写这些东西同样是需要勇气的，就像开源的那些源代码，代码写的好坏都是在那里摆着，别人指出来了也会让自己进步，接受那些有趣的观点。

对于文中哲学那块，我所思考的问题，前人那也是思考过的，看看前人都是怎么想的，我是有多懒啊，想吃现成的。

一、怎么理解其中的道理？
1 、对于我理解的事物都是“拿来“的
    本书可以这样说都是“拿来”的，因为太阳底下没有新鲜事（ There is nothing new under the sun.）这句话的出处太多，不知选谁的，反正都是这句话。读书不仅仅是看作者是怎么说的，最重要的是自己的是怎么想的，所以本文会包含自己的想法。

鲁迅说：总之，我们要拿来。我们要或使用或存放，或毁灭。那么，主人是新主人，宅子也就会成为新宅子。然而首先要这人沉着，勇猛，有辨别，不自私。没有拿来的，人不能自成为新人，没有拿来的，文艺不能自成为新文艺。

作为拿来者鲁迅的意见是这样的：“拿来”者应具有的素质：“沉着、勇猛、有辨别、不自私”。
    对待态度是：首先是“占有”，然后是“挑选”。

2、 理解事物的时候要与时俱进，具有时代特性
    在说线性回归的时候，会说到微积分，同样对于微积分的理解我会看多本著作，看看别人都是怎么说，芝诺时代知道存在那个东西，但不知道是什么，牛顿时代不仅知道有那么个东西存在，已经用它解决问题了，但是还没有到逻辑严谨的程度，到了柯西时代才算有了初步的严谨。魏尔斯特拉斯又在柯西的基础上让它更加严谨。这样就完了吗？没有的，还有张景中怎么看待的，林群是怎么看待的。不能说我们已经完全认识它的。不同的时代总有不同的理解，可能又有个什么家的提出新的见解。有人在地心说上修修补补，也有发现了日心说。就像《高观点下的数学》呼吁的“通过观察自然，不断修订传统科学结论”。

3 、从多个角度去理解，做选择题

我们定义圆的一周是360度，别太苛求先人知道一年有365.242199天。这里度是角度，还可以是弧度来表示，重要的是从什么视角看。如果火星人存在，火星人可不按照地球的运行规则去定义，它如果按照火星的运行规则去定义圆的一周怎么也要680度。这个世界要按照牛顿这种万人敬仰的类神级别的人物的理论去理解也行，按照爱因斯坦的理论去理解也行，要按照圣教徒的方式去理解有个神啊佛的也行。 “拿来”好的想法多了，就有的比较，有的辨别，让自己永远有多个选择，这样我就不会钻牛角尖，认为就是这样的，其他的观点都是错误。很多观点是逻辑自洽的，道理上都能说的通，所以不能认为一家说法是正确的，另一家说话就是错误的。我也不认为这么多定理没有自己的原创是可耻的，但可以有小例子的原创，我的工作不是发明定理，那是科学家做的事，我主要是知道一件事怎么做才能成，如果科学家说理论上不可以，我就放弃，注意这里是科学家不是其他学家。

4 、接受那些有趣的观点

**想象力：**数学是用想象的工具解决问题。几何解决不了要想象辅助线，辅助平面；笛卡尔坐标系解决不了，要想象进入齐次坐标；二维的解决不了加一维变成三维去解决；实数域的解不了想象一个虚数用复数去解决；没有解的要想象它有解，找个最优解；到不了的地方要想象存一个极限，到达的情况，大的可以微分，无数小的可以积分；两条平行线在另一个世界确定会相交的，且真实存在的。当我看到有人说直线是无穷远点的一个圆。直线怎么能是个圆呢，这时发挥想象我绕地球赤道一周铺了一条路，我在上面走的很慢，我感觉它是一条直线，实际它是一个圆。我的目的就是解决问题，接受那些有趣的观点。
   
    基础在哪里：如果不看别人的理论著作，当前最新的著作都是怎么理解的。自己蒙头干，不仅浪费了时间，重要的是做出来东西水平还太次。
   
    **不被别人理解：**英国数学家巴贝奇（1792—1871）设想根据穿孔卡片上的“0”和“1”来控制运算的顺序，但没几个人能理解他的思想。我想说只要再等一个世纪之后，程序员都能理解他的思想。理论太先进了，当时的人不理解也就不理解了。
   
    被抛弃的概念：以太 一词的由来则早在古希腊：亚里士多德在《论天》一书里阐述了他对天体的认识。虽然到了相对论里被抛弃掉，但它曾经代表的光媒以及绝对参考系 以太 现在也就剩 以太网Ethernet了。如果学习网络知识的程序员肯定会遇到这个词。概念会随时时间或被抛弃或被赋予新的意义。

二、怎么说深度学习

1、找源头

为了说明深度学习，我要把深度学习从勾股定理开始说，实际学习是反向的，并且是一个反复的过程，自己明白了就想把这里面的道理说出来，先接触深度学习，一词不知道什么意思，因为数学里面是概念套概念和层层的逻辑，最终要找到源头，把里面的道理一直推导到勾股定理才算懂，把中间的步骤想明白。所以我的说法是勾股定理是现在深度学习大厦的根基。

2、到哪停

有些部分是思考片段，为什么会这样，这样的问题我赞叹上天或会求助哲学: 当我读到休谟这个苏格兰不可知论哲学家的观点时，我发现用他的观点形容当下的深度学习技术最好不过了，《人性论》《人类理解研究》观点是不能说一件事物造就了另一件事物，我们所知道的只是一件事物跟另一件事物可能有所关连。这样我在说这个技术时先抛出哲学 。总结就是非因果性，而是相关性。最终跑到哲学那里去了。

3、什么样的符号

深度学习我最早接触的是吴恩达的教程，所以我的文章会采用他创建的符号系统，我称为“吴氏符号”，为了防止工作多年的小伙伴已经把数学符号都忘了是什么意思，我会解释符号都是什么意思，希腊字母标注音标。

4、怀疑精神

引用 张景中和彭翕成（翕xi 一声）在《数学哲学》里笛卡尔和休谟的事，这里又提到了休谟。有专家实验证明，麦当劳的汉堡可以放一年保持不坏。笛卡尔则会先质疑：这个专家真的存在么？是不是子虚乌有，记者杜撰出来的呢？休谟面对可疑的问题，并不是直接肯定或者否定，而是去比较两个对立面哪一个更可信一些。

怀疑,不等于盲目排斥,其本质在于独立思考。

5、什么样的心态
    在听乔布斯事迹的时候听到这么一句There’s a phrase in Buddhism, ‘Beginner’s mind.’ It’s wonderful to have a beginner’s mind。，佛教中有一句话：初学者的心态；拥有初学者的心态是件了不起的事情。 这句话和他的那句名言Stay Hungry. Stay Foolish 意思相近。毕加索（Picasso）说 good artists copy, great artists steal，我争取做到steal。