第三次周报10.9

反向传播算法

反向传播算法是神经网络的基础之一，该算法主要用于根据损失函数来对网络参数进行优化，它建立在梯度下降法的基础上，主要由两个环节(激励传播、权重更新)反复循环迭代，直到网络的对输入的响应达到预定的目标范围为止。

总结：反向传播算法就是神经网络中加速计算梯度值的方法

计算图

草稿纸上的计算过程过于凌乱以及步骤繁琐，现采用计算图来表示该算法在计算机中模块化的过程

正向传播

定义中间变量u1后可看出，每个模块的运算都相同，只有输入的变量不同，可在计算机中用循环代替

反向传播

黄色字体代表前面已经求出的公式

将上述步骤用代码实现：

实例

这个case构建了只有一层的神经网络，只进行一轮的正向反向传播，没有给神经元加上激活函数，重点在于说明正向传播和反向传播的过程。

经过几轮传播不断更新参数，使得不断地逼近真实值，将损失函数不断地接近最小值使网络最终收敛，但实际神经元中都会加上激活函数，从而影响正向传播或反向传播的值。

文献阅读

本周阅读了《Review on Natural Language Processing (NLP) and Its
Toolkits for Opinion Mining and Sentiment Analysis》（《自然语言处理（NLP）及其意见挖掘和情感分析工具包的综述》）了解目前该领域的发展现状

研究背景

大多数研究人员和科学家关注的中心是，收集和捕捉人们对社会、政治增长、商业程序以及喜欢或不喜欢商界的产品的流行情绪。因此，作为其结果，他们可以可以想象地促进和预测企业市场的财务份额。随后的发展领域是意见挖掘和情感分析。在现代电子商务中，商家投资于意见挖掘和情绪分析研究，然后利用这些研究结果，通过积极和消极的客户输入来加强客户关系管理和建议框架。

主要内容

主要介绍了自然语言处理（NLP）技术、NLP最有用的工具包，对意见挖掘和情绪分析进行了回顾：
1.文本预处理的NLP技术
该段落介绍了在意见挖掘中，文本结构、提取特征、分割、标记化、词性（POS）标记和解析需要的预处理方法。
2.意见挖掘和情绪分析
意见挖掘和情感分析的目标是提取作品的情感取向。通常，意见挖掘可以分为3个级别：文档级别、句子级别、细粒度级别。一级。它选择一个句子是积极、消极的还是公平的陈述。主观性安排是在句子层面上的另一项努力，它将报告或文档中给定文本的抽象部分和目标部分分开。第二级执行任务的意见可能是积极的，消极的或中立的。完成所有级别后，公司或用户可以在屏幕上得到反馈，但不确定任何筛选重新要求、建议、建议或询问。

存在的缺点

当有人在线提交他的反馈或评论，不确定这些提交准确，原因是这背后的NLP编程的修复，只是通知文本删除无意义的词。这对用户并不好，因为大多数用户都不知道正确地编写和提交他们的反馈，或者询问关于品牌或其他事情的不同问题。那么如何解决他的问题，如何得到他的问题的正确答案。

解决方案

文本再处理的背面设计了一些技术，包括一些跟踪或排序数据的检查，由于一些有限的检查筛选结果不能正确或反馈，评论或审查也不能正确筛选或提交。建议通过沟通间隙修改反NLP技术以及所有其他相关技术，使得每个技术都将准确和容易地获得用户想要的愿望信息，让用户或受益人可以提供和接收适当的信息数据。

总结

本周已学会神经网络的前后向推导，下周重点学习经典的编码器 知道有什么方法，出于什么理论，解决什么问题以及用代码实现，并继续阅读文献了解相关领域现状。