17021211254
转载自：https://www.jianshu.com/p/c874285dd88d
嵌牛导读：神经网络是机器学习算法中最流行且最强大的算法。在定量金融中，神经网络通常用于时间序列预测、构建专有指标、算法交易、证券分类和信用风险建模，它也被用来构建随机过程模型和价格衍生工具。尽管它很有用，但神经网络往往因为它们的性能是“不可靠的”而声誉不佳。在我看来，这可能是由于对神经网络工作机制误解所致。本系列将讨论了一些常见的对于神经网络的误解。本文先介绍两个错误的理解：它是人脑的模型，第二它是统计学的一种弱形式。
嵌牛鼻子：神经网络 机器学习
嵌牛提问：哪里被错误理解了？
神经网络不是人脑的模型
人类的大脑是我们这个时代最伟大的奥秘，科学家们尚未就其工作原理达成共识。目前有两种大脑理论：即祖母细胞理论和分布式表征理论。第一个理论认为，单个神经元具有很高的处理信息能力，并且能够表达复杂的概念。第二种理论认为，神经元更简单，复杂对象的表示分布在许多神经元中。人工神经网络貌似是受到第二种理论的启发。
我相信目前这一代神经网络不具备感知能力（与智能不同）的一个原因是因为生物神经元比人工神经元复杂得多。
大脑中的单个神经元是一台令人难以置信的复杂机器，即使在今天我们也不明白。而神经网络中的单个“神经元”是一个非常简单的数学函数，只能捕捉生物神经元复杂性的一小部分。所以说神经网络模仿大脑，这在思路上是真的，但真正的人造神经网络与生物大脑没有什么相似之处—— Andrew Ng
大脑和神经网络之间的另一大区别在于规模和组织。人脑比神经网络包含更多的神经元和突触，他们有自我组织能力和适应性。相比之下，神经网络是根据架构来组织的。神经网络不像大脑那样是“自组织”的，与有序网络相比，神经网络更接近图形。
先比之下，我们只能说神经网络受大脑启发，就像北京的奥林匹克体育场受到鸟巢的启发。这并不意味着奥林匹克体育场就是鸟巢，它只意味着在体育场的设计中存在一些鸟巢的元素。换句话说，大脑的某些元素存在于神经网络的设计中，但它们比我们想像的要少得多。
事实上，神经网络与统计方法（如曲线拟合和回归分析）更密切相关。在定量金融的背景下，我认为重要的是要记忆，因为虽然说“某种东西受到大脑的启发”可能听起来很酷，但这种说法可能会导致不切实际的期望或恐惧。
神经网络不是弱统计
神经网络由相互连接的节点层组成，单个节点被称为感知器，类似于多重线性回归。在多层感知器中（MLP），感知器被排列成层并且层与层彼此连接。在MLP中，有三种类型的层：即输入层、隐藏层和输出层。输入层接收输入模式，输出层输入映射的分类或输出信号的列表。隐藏层调整这些输入的权重，直到神经网络的误差最小化。
映射输入：输出
感知器可以接收由n个属性组成的输入向量z=（z1，z2，...Zn）。这个输入向量称为输入模式，这些输入根据该感知器的权向量加权：v=（v1，v2...，vn）。在多元线性回归的背景下，这些可以被认为是回归系数或贝塔值。感知器的净输入信号net通常是输入模式与其权重的总和乘积，其使用和积神经元网络被称为求和单元。
net=∑ni−1zivi
净输入信号减去偏差θ然后馈送到某个激活函数f（）。激活函数通常是在（0,1）或（-1,1）之间有界的单调递增函数（下文将进行进一步讨论），另外激活函数可以是线性或非线性的。
最简单的神经网络就是只有一个将输入映射到输出的神经元。给定一个模式p，这个网络的目标是使输出信号op的误差相对于某些给定训练模式tp的某个已知目标值的误差最小化。例如，如果神经元应该将p映射到-1，但其映射到了1，那么神经元的误差（如平方和距离测量）将为4。
如上图所示，感知器被组织成层。第一层输入感知器，从训练集PT中接收模式p。最后一层是映射到这些模式的预期输出。
隐藏层是接收另一层的输出作为输入，并且输出形成输入到另一层的隐藏层。那么，这些隐藏层是做什么的？其中一种技术解释是它们提取输入数据中的显着特征，这些特征对输出具有预测能力。这被称为特征提取，并以某种方式执行与统计技术（如主成分分析）类似的功能。
深度神经网络具有大量的隐藏层，并且能够从数据中提取更多的特征。最近，深度神经网络对于图像识别问题表现得特别好。
我认为使用深度神经网络所面临的问题之一（除了过度拟合之外）是神经网络的输入几乎总是被大量预处理。
学习规则（Learning Rules）
如前所述，神经网络的目标是最小化一些误差测量值ε。最常见的误差指标是平方和误差，尽管这一指标对异常值很敏感。
考虑到网络的目标是最小化ε，我们可以使用优化算法来调整神经网络中的权重。神经网络最常见的学习算法是梯度下降算法，尽管可以使用其他更好的优化算法。梯度下降的工作方式是计算误差相对于神经网络中每个层的权重的偏导数，然后向与梯度相反的方向移动（因为我们想要最小化神经网络的误差）。通过最小化误差，我们可以最大化神经网络样本的性能。
总结
在学术界，一些统计学家认为，神经网络是一个“懒惰分析师的弱统计”方式。但我认为神经网络代表了数百年统计技术的抽象，对于神经网络背后统计数据的精彩解释，我建议阅读这篇文章。我同意一些从业者喜欢将神经网络视为一个“黑匣子”，可以在不花时间理解问题本质以及神经网络是否合适的情况下去研究神经网络。在对于金融市场来说，我认为神经网络并不能完美的展示它的能力。因为市场是动态的，而神经网络假定输入模式的分布随着时间的推移是保持不变。