神经网络与深度学习（邱锡鹏版本）学习笔记11.23

写在前面： 开启新的学习模块——“神经网络与深度学习”。参考书目：《神经网络与深度学习》，邱锡鹏版本。纯小白级别的入门选择，将会在此记录一点读书的思考和感悟，如果有志同道合的小伙伴感兴趣可以一起。

今天读的是第一章绪论的内容，从一个大局观的角度带领读者领略了机器学习（ML）的基础知识。我读完之后觉得建立起来了对于机器学习的大致印象，没有难以理解的鸿沟，但是需要通过这种自我梳理的方式使得我对这部分的知识有更深刻的印象，这是对整个学科框架的建立。同时我也建议，这种总结性的东西应该留到最后结束的时候再看看，相信会有一定的收获。

图灵测试：一个人在不接触对方的情况下，通过一种特殊的方式和对方进行一系列的问答．如果在相当长时间内，他无法根据这些问题判断对方是人还是计算机，那么就可以认为这个计算机是智能的。

• definition:
  机器学习是指从有限的观测数据中学习（或“猜测”）出具有一般性的规律，并利用这些规律对未知数据进行预测的方法。传统的机器学习=特征提取+浅层学习。
  

• definition:
  为了提高机器学习系统的准确率，我们就需要将输入信息转换为有效的特征，果有一种算法可以自动地学习出有效的特征，并提高最终机器学习模型的性能，那么这种学习就可以叫作表示学习。
• 关键问题：语义鸿沟
• 分类： 局部表示（嵌入）+分散式表示

• definition:
  深度学习是将原始的数据特征通过多步的特征转换得到一种特征表示，并进一步输入到预测函数得到最终结果．(端到端学习)
• 关键问题：贡献度分配问题

• 人脑神经网络
  在人脑神经网络中，每个神经元本身并不重要，重要的是神经元如何组成网络．不同神经元之间的突触有强有弱，其强度是可以通过学习（训练）来不断改变的，具有一定的可塑性．不同的连接形成了不同的记忆印痕．
• 人工神经网络
  由于人工神经网络可以用作一个通用的函数逼近器（一个两层的神经网络可以逼近任意的函数），因此我们可以将人工神经网络看作一个可学习的函数，并将其应用到机器学习中．

• 机器学习：可以分为监督学习、无监督学习和强化学习。
• 神经网络：作为一类非线性的机器学习模型，可以更好地实现输入和输出之间的映射。
• 概率图模型：为机器学习提供了一个更加便捷的描述框架。

因此，一些支持自动梯度计算、无缝CPU和GPU切换等功能的深度学习框架就应运而生．比较有代表性的框架包括：Theano、Caffe、TensorFlow、Pytorch、飞桨（PaddlePaddle）、Chainer和MXNet等。

深度学习所要解决的问题是贡献度分配问题，而神经网络恰好是解决这个问题的有效模型．套用马克思的一句名言，“金银天然不是货币，但货币天然是金银”，我们可以说，神经网络天然不是深度学习，但深度学习天然是神经网络。

写在最后： 我在总结的时候避开了类似于发展历史这种的东西，因为第一看了记不住，第二记住了也没用，第三在学习下去的过程中自然会记住的。同时，我也避开了一下啰嗦和繁琐的东西，删繁就简才是好的，所以也悄悄吐槽一下作者的绪论是真的写的很啰嗦，有些话明明是一个意思，却用不同的说法反复说了好多遍，我认为这样也是不利于读者理解的，知识被拆解之后变得零碎了反而不知道是那部分的东西，就好比你拿到了一片积木，却站在偌大的城堡面前不知道放在哪里了。相信看到这里的你也是一个对神经网络和深度学习感兴趣的小伙伴，那么如果你需要这本电子书的话可以私信联系，毕竟开源才是打破内卷的唯一方式。