深度学习新算法,完成字里行间的情绪识别

深度学习新算法,完成字里行间的情绪识别

发表于 2013-10-12 11:4140891次阅读| 来源 Wired68 条评论| 作者 Daniela Hernandez
深度学习 人工智能 机器学习 NaSent
allowtransparency="true" frameborder="0" scrolling="no" src="http://hits.sinajs.cn/A1/weiboshare.html?url=http%3A%2F%2Fwww.csdn.net%2Farticle%2F2013-10-12%2F2817157-nasent-deep-learning&type=3&count=&appkey=&title=%E6%B7%B1%E5%BA%A6%E5%AD%A6%E4%B9%A0%E6%98%AF%E8%BF%91%E5%87%A0%E5%B9%B4%E4%B9%9F%E8%A2%AB%E5%BD%92%E5%85%A5%E4%BA%86%E8%BF%87%E5%88%86%E5%90%B9%E5%98%98%E7%9A%84%E6%8A%80%E6%9C%AF%E4%B9%8B%E4%B8%80%EF%BC%8C%E7%A9%B6%E5%85%B6%E5%8E%9F%E5%9B%A0%E5%9C%A8%E4%BA%8E%E8%BF%98%E6%B2%A1%E6%9C%89%E6%88%90%E7%86%9F%E7%9A%84%E7%AE%97%E6%B3%95%E5%92%8C%E5%BA%94%E7%94%A8%E3%80%82%E7%84%B6%E8%80%8C%E5%AD%A6%E6%9C%AF%E7%95%8C%E4%B8%80%E7%9B%B4%E6%B2%A1%E6%9C%89%E5%81%9C%E6%AD%A2%E8%BF%99%E6%96%B9%E9%9D%A2%E7%9A%84%E7%A0%94%E7%A9%B6%EF%BC%8C%E8%BF%91%E6%97%A5%EF%BC%8C%E6%96%AF%E5%9D%A6%E7%A6%8F%E5%A4%A7%E5%AD%A6%E7%A0%94%E7%A9%B6%E5%BC%80%E5%8F%91%E7%9A%84%E6%B7%B1%E5%BA%A6%E5%AD%A6%E4%B9%A0%E6%96%B0%E7%AE%97%E6%B3%95NaSent%EF%BC%8C%E6%88%96%E4%B8%BA%E8%BF%99%E4%B8%AA%E9%A2%86%E5%9F%9F%E5%B8%A6%E6%9D%A5%E4%B8%80%E7%BA%BF%E6%9B%99%E5%85%89%E3%80%82&pic=&ralateUid=&language=zh_cn&rnd=1461319069746" width="22" height="16"> 摘要:深度学习是近几年也被归入了过分吹嘘的技术之一,究其原因在于还没有成熟的算法和应用。然而学术界一直没有停止这方面的研究,近日,斯坦福大学研究开发的深度学习新算法NaSent,或为这个领域带来一线曙光。

深度学习领域是计算机科学一个新兴领域,通俗说来就是构建像人脑一样处理数据的计算机程序。深度学习首先发起于学术界,目前各大互联网巨头也纷纷投入研究,如Google的猫脸识别以及Facebook的深度学习团队。

每天,数百万人在使用Twitter、Facebook和其它社交网络来就各类热点话题互相交流。大量的个人信息被汇集到这里,对于Google、Facebook、Amazon和Twitter等大型互联网公司来说,如果拥有较为实用的深度学习技术,这些数据就可以转化为财富。但是说起来容易做起来难,对这些数据的处理能力很大程度上取决于他们的计算机算法是否成熟。

近日,斯担福大学的研究生Richard Socher和Andrew Ng(Google深度学习项目工程师之一),以及一位语言学及人工智能领域的专家Chris Manning,共同研究开发了一个深度学习的新算法,这个算法被称为Neural Analysis of Sentiment,缩写为NaSent。NaSent算法从人脑中得到灵感,旨在改善当前书面语言的分析方法。

Socher介绍说NaSent的目的是开发一种可在无人监督的情况下运行的算法。“过去感知分析主要聚焦于模型,忽略了词序,而且依赖人工干预,并且只适用于简单的例子,永远不会达到人类的理解能力。因为词义会随语境变化,就算是语言专家也不能准确定义语言中感情的微妙之处。我们的深度学习模型就是为了解决这些问题”。

目前,应用最广的情绪分析是“词袋(bag of wodrds)”模型,并没有将词序列入考虑范围。词袋中的词汇被标记为正面或负面的,通过计数来评估整个句子或段落的含义是正面还是负面。

AlchemyAPI(一家将深度学习用于情绪分析的公司)CEO说将词汇单独分析的方法并不准确,必须将其放入到越来越大的结构中。

Socher和他的团队从影评网站Rotten Tomatoes抽取了12000个句子,并将其粗略分割为214000个词组,每个词组被标记为负面、中立或正面(数字表示),计算机科学家称这些数字化的表述为“特征表示”,类似于人脑理解概念和定义的方式。

如何分析和组织这些被标记的数据才是NaSent算法的核心。以下通过对两个句子的分析来理解这个算法:

  • Unlike the surreal Leon, this movie is weird but likeable.
  • Unlike the surreal but likeable Leon, this movie is weird.

这两个句子中使用的词汇完全相同,“词袋”模型分析显然不会得到正确的结果。NaSent算法首先会为每个句子构造文法树,如下图所示:


在分析句子时,红色的节点代表这个词汇或短语带有负面情绪,例如“weird”虽然是一个负面词汇,但短语“is weird but likeable”被正确理解为正面情绪。

如上图所示“surreal but likeable Leon”是一个正面词组,但“this movie is weird”是负面的,整个句子得到的分析结果也是负面的。

相比之前模型80%的准确率,NaSent的准确率达到了85%。这个系统还没有授权给外部组织,但是据Socher说已经有几个初创公司联系他们表示对NaSent算法很感兴趣。

但遇到没有被统计的词汇或短语,这个系统就会失效。Socher和他的团队已经开始通过Twitter和网上的电影数据库,扩充系统的词汇库。他们还允许外部人员对这个词汇库进行扩充。短短几周内,就收到了14000份词汇库的提交。

原文链接:

These Guys Are Teaching Computers How to Think Like People

Stanford Algorithm Analyzes Sentence Sentiment,Avances Machine Learning(编译/周小璐 审校/仲浩)

你可能感兴趣的:(DeepLearning)