第1117期AI100_机器学习日报(2017-10-09)

AI100_机器学习日报 2017-10-09

• 搜狗研究员讲解基于深度学习的语音分离 @ChatbotsChina
• 适合入门的8个趣味机器学习项目 @wx:
• 通俗易懂讲解Deep Learning 最优化方法之AdaGrad @wx:
• 讨论：AI 是否需要类似人类和动物的内置的认知机制 @新智元
• PyTorch实现的多种降维/谱聚类方法 @爱可可-爱生活

@好东西传送门 出品,由@AI100运营， 过往目录 见http://geek.ai100.com.cn

订阅：关注微信公众号 AI100（ID：rgznai100，扫二维码），回复“机器学习日报”，加你进日报群

本期话题有：

全部13 深度学习10 算法5 语音3 应用3 入门2 视觉1 资源1

用日报搜索找到以前分享的内容： http://ml.memect.com/search/

今日焦点 (5)

ChatbotsChina 网页版 2017-10-09 17:57

深度学习 语音

搜狗研究员讲解基于深度学习的语音分离 | 分享总结 http://t.cn/ROtQQAS ​

wx: 网页版 2017-10-10 06:28

入门 视觉 算法 资源 聚类 课程 神经网络 数据质量 特征工程 吴恩达

「【推荐】适合入门的8个趣味机器学习项目」转自：云栖社区谈到机器学习，相信很多除学者都是通过斯坦福大学吴恩达老师的公开课《Machine Learning》开始具体的接触机器学习这个领域，但是学完之后又不知道自己的掌握情况，缺少一些实际的项目操作。对于机器学习的相关竞赛挑战，有些项目的门槛有些高，参加后难以具体的实现，因此造成自己对机器学习的热情逐渐衰减。大部分都经历过这个过程，一直想找一些练手的项目，最典型的练手项目比如手写体识别等，但这类的项目成熟得不能再成熟了，参考别人的网络模型跑一下实验，结果的准确率都快达到100%，学习调参的机会比较少，因此都想找一些适合初学者的项目练手。那么在本指南中，将给大家带来8个适合初学者学习的有趣的机器学习项目。将自己的时间花在项目上是最好的一种投资方式，在项目中你会享受学习、保持积极性并取得更快的进展。没有任何理论可以代替实践，虽然教材和课程能让你掌握一些基本原理，但在尝试应用时，你会发现具体操作起来比较困难。因此项目有助于提高应用机器学习的技巧，此外在找工作中也会给自己增添一些筹码。以下将具体介绍这8个项目，其中的任何一个项目都能在一个周末完成，如果你喜欢的话，可以对其进行相关的扩展。 本文目录 机器学习的角斗士 扮演“点球成金” 预测股票价格 教会神经网络阅读的笔迹 调查安然事件 从Scrath开始写机器学习算法 挖掘社交情绪 改善卫生保健 1.机器学习的角斗士这个项目被称为“机器学习的角斗士”，但它不是新的。这是围绕机器学习建立实际直觉最快的一种方式。目标是将现成模型应用到不同的数据集。本项目主要有3个原因令人感叹：首先，你会根据直觉为问题找到对应的模型。该模型是否对数据丢失具有鲁棒性、该模型适合处理哪种类别特征？这都可以通过挖掘教材找到答案，但如果通过实践的话能学习得更好。其次，本项目将教会你快速设计初始模型的技能。在实际应用中，如果不简单尝试的话难以知道哪些模型表现最好。最后，这个练习可以帮助你掌握建模的流程。例如： 导入数据数据清洗将数据集拆成训练/测试或交叉验证集预处理变换特征工程 因为使用现成的模型，这促使你有更多的机会专注于学习上述的这些关键步骤。通过以下教程可以练习回归、分类和聚类算法。 原文链接： https://m.aliyun.com/yunqi/articles/221708 via: http://mp.weixin.qq.com/s?__biz=MzA4NDEyMzc2Mw==&mid=2649678205&idx=1&sn=9d47467fffc32996da2119b1c2661e3e&scene=0#wechat_redirect

wx: 网页版 2017-10-10 06:28

入门 深度学习 算法

「干货|通俗易懂讲解Deep Learning 最优化方法之AdaGrad」首先我们来看一下AdaGrad算法我们可以看出该优化算法与普通的sgd算法差别就在于标黄的哪部分，采取了累积平方梯度。简单来讲，设置全局学习率之后，每次通过，全局学习率逐参数的除以历史梯度平方和的平方根，使得每个参数的学习率不同 那么它起到的作用是什么呢？起到的效果是在参数空间更为平缓的方向，会取得更大的进步（因为平缓，所以历史梯度平方和较小，对应学习下降的幅度较小），并且能够使得陡峭的方向变得平缓，从而加快训练速度。下面通过例子讲解一下：假设我们现在采用的优化算法是最普通的梯度下降法mini-batch。它的移动方向如下面蓝色所示：假设我们现在就只有两个参数w,b，我们从图中可以看到在b方向走的比较陡峭，这影响了优化速度。而我们采取AdaGrad算法之后，我们在算法中使用了累积平方梯度r=:r + g.g。从上图可以看出在b方向上的梯度g要大于在w方向上的梯度。那么在下次计算更新的时候，r是作为分母出现的，越大的反而更新越小，越小的值反而更新越大，那么后面的更新则会像下面绿色线更新一样，明显就会好于蓝色更新曲线。 完整内容请点击“阅读原文” via: http://mp.weixin.qq.com/s?__biz=MzA4NDEyMzc2Mw==&mid=2649678205&idx=3&sn=ef8b9a550b0faf43edb0b5122e0991d3&scene=0#wechat_redirect

新智元 网页版 2017-10-09 13:17

深度学习 算法 Gary Marcus Yann Lecun

【新智元导读】人工智能和心理学领域的两位顶尖研究者，纽约大学 Yann LeCun 和 Gary Marcus 就 AI 是否需要类似人类和动物的内置的认知机制，以实现类似人类的智能这一问题，展开了激烈的辩论。辩论的关键在于无监督学习算法最终是否需要内置的认知结构，如果在不需要这类结构的情况下取得成功，那么 …全文： http://m.weibo.cn/5703921756/4160928942982523 ​

爱可可-爱生活 网页版 2017-10-08 13:46

深度学习 算法 代码 聚类

【PyTorch实现的多种降维/谱聚类方法】’PyTorch-Spectral-clustering – [Under development]- Implementation of various methods for dimensionality reduction and spectral clustering implemented with Pytorch’ by Dimitris Kastaniotis GitHub: http://t.cn/RO4uSds ​

最新动态

2017-10-09 (8)

机器之心Synced 网页版 2017-10-09 17:50

深度学习 应用 社交网络

【深度学习应该使用复数吗？】深度学习只能使用实数吗？本文简要介绍了近期一些将复数应用于深度学习的若干研究，并指出使用复数可以实现更鲁棒的层间梯度信息传播、更高的记忆容量、更准确的遗忘行为、大幅降低的网络规模，以及 GAN 训练中更好的稳定性。 http://t.cn/ROtHbrl ​

机器之心Synced 网页版 2017-10-09 17:35

深度学习 Nicolas D. Jime 行业动态

【观点 | TensorFlow sucks，有人吐槽TensorFlow晦涩难用】 http://t.cn/ROtlsB9 derdog大眼萌宠都暻秀# 作为当今最流行的深度学习框架，TensorFlow 已经出现了两年之久。尽管其背后有着谷歌这样的科技巨头支持，但它的很多缺点已经开始显现。本文作者，创业公司 Mathpix 的首席执行官 Nicolas D. Jime…全文： http://m.weibo.cn/3996876140/4160993846290605 ​

科学家种太阳 网页版 2017-10-09 16:36

算法

#TIL# 人工智能领域里最火的单词 algorithm 算法 来自一千多年前一个波斯数学天才的名字 花剌子米 al-Khwārizmī 穆斯林文明，曾经的人类之光 当年的圣战，来自邪恶的十字军 ​

机器之心Synced 网页版 2017-10-09 16:32

深度学习

【博士生开源深度学习C++库DLL：快速构建卷积受限玻尔兹曼机】Baptiste Wicht公布编写的深度学习库DLL1.0，可以通过C++接口使用，通过几个例子介绍了DLL调用全连接网络、DNN的能力，通过实验和其它流行框架如TensorFlow、Keras、Torch和Caffe作了综合性能比较。 http://t.cn/ROtiuWc ​

ChatbotsChina 网页版 2017-10-09 14:33

深度学习 神经科学

Deepmind “预测地图”论文背后：神经科学或将助力深度学习迎来新突破 http://t.cn/R0enpy1 ​

LR机器学习计算机视觉 网页版 2017-10-09 14:29

深度学习 应用 语音 论文 信息检索

LSTM: A Search Space Odyssey, 对LSTM及八个变形在三个任务：语音识别，手写体识别和音符建模上的表现进行了分析 http://t.cn/RXtNWZE ​

新智元 网页版 2017-10-09 13:19

应用 机器人 李飞飞 吴恩达

【新智元导读】作为人工智能发展的三大驱动力之一，数据的重要性毋庸置疑。在硅谷拜访了李飞飞、弓峰敏、吴恩达等人工智能领域的大咖，走访OpenAI和斯坦福机器人实验室等人工智能研究前沿重地之后，我们更深刻地看到了“数据”的重要性：它可能是中美未来人工智能发展水平的决定因素。针对数据的问题，…全文： http://m.weibo.cn/5703921756/4160929426040289 ​

ChatbotsChina 网页版 2017-10-09 09:21

深度学习 语音

【Deepmind语音生成模型WaveNet正式商用：效率提高1000倍】 WaveNet的更新版本已被集成到Google Assistant中，用于生成各平台上的所有英语和日语语音。 http://t.cn/ROqas72 ​