第1130期AI100_机器学习日报(2017-10-22)
AI100_机器学习日报 2017-10-22
- Python自然语言处理工具小结
- 基础:多元线性回归
- Intel发布开源增强学习框架Coach，多线程实现领先的增强学习算法
- 在浏览器里可视化训练神经网络
- 词嵌入趋势与发展方向分析
@好东西传送门 出品,由@AI100运营， 过往目录 见http://geek.ai100.com.cn
订阅：关注微信公众号 AI100（ID：rgznai100，扫二维码），回复“机器学习日报”，加你进日报群
本期话题有：
全部21 深度学习8 算法8 资源8 自然语言处理6 应用4 会议活动4 公告板3 视觉3 语音2
用日报搜索找到以前分享的内容： http://ml.memect.com/search/
今日焦点 (5)
大数据_机器学习 网页版 2017-10-22 07:32
自然语言处理 Python
Python自然语言处理工具小结 >>>> 工具包(1) 【Python NLP】Python 自然语言处理工具小结(2) 【Python NLP】Python NLTK 走进大秦帝国(3) 【Pytho…n NLP】Python NLTK获取文本语料和词汇资源(4) 【Python NLP】Python NLTK处理原始文本(5) 1 Python 的几个自然语 http://t.cn/RfP0web…全文： http://m.weibo.cn/5291384903/4165553159398194
wx: 网页版 2017-10-23 06:04
算法 应用 资源 自然语言处理 广告系统 回归 课程 吴恩达
「干货|机器学习零基础？不要怕，吴恩达机器学习课程笔记2-多元线性回归」吴恩达Coursera机器学习课系列笔记课程笔记|吴恩达Coursera机器学习 Week1 笔记-机器学习基础 紧接上一篇的例子 – 房价预测。现在我们有更多的特征来预测房价了，“房间的数量”、“楼层”、“房龄”……说明一下接下来要用到的符号：训练集（部分）如下图所示：然后再用上一篇中说的gradient descent方法更新θ即可，过程如下： 让特征们的取值处于同一个范围里面，可以加快梯度下降法的收敛速度。原因在下图中形象说明了。 除了训练集中已经给出的特征，还可以根据这些特征来生成新的特征。比如说最简单的，已有特征“长”和“宽”，可以使用生成的特征“面积”来进行模型的学习。另外h(x)也可以使用polynomial regression来代替linear regression，则： 在实际计算过程中，用矩阵来计算会提升计算速度。下面就来看看怎么转换成矩阵形式。如下例子： 转自：机器学习算法与自然语言处理 完整内容请点击“阅读原文” via: https://mp.weixin.qq.com/s?timestamp=1508684815&src=3&ver=1&signature=adA1STPl0RTteYlrN5R5KZeVaQErpbaJ-W3q66VEfn6mDcRi8iGiBLJEH1yxATagdVUZu2cqTQLQeBFPbX SeBHfc-1C5mNxJ363F6bgnn1mn46ByDK xPUNNZf6T6mnZwMGA87MtBInpwxGtzJZ7gAc*AXbNftog3ZNNR8K8=
算法 应用 资源 自然语言处理 广告系统 回归 课程 吴恩达
「干货|机器学习零基础？不要怕，吴恩达机器学习课程笔记2-多元线性回归」吴恩达Coursera机器学习课系列笔记课程笔记|吴恩达Coursera机器学习 Week1 笔记-机器学习基础 紧接上一篇的例子 – 房价预测。现在我们有更多的特征来预测房价了，“房间的数量”、“楼层”、“房龄”……说明一下接下来要用到的符号：训练集（部分）如下图所示：然后再用上一篇中说的gradient descent方法更新θ即可，过程如下： 让特征们的取值处于同一个范围里面，可以加快梯度下降法的收敛速度。原因在下图中形象说明了。 除了训练集中已经给出的特征，还可以根据这些特征来生成新的特征。比如说最简单的，已有特征“长”和“宽”，可以使用生成的特征“面积”来进行模型的学习。另外h(x)也可以使用polynomial regression来代替linear regression，则： 在实际计算过程中，用矩阵来计算会提升计算速度。下面就来看看怎么转换成矩阵形式。如下例子： 转自：机器学习算法与自然语言处理 完整内容请点击“阅读原文” via: https://mp.weixin.qq.com/s?timestamp=1508684815&src=3&ver=1&signature=adA1STPl0RTteYlrN5R5KZeVaQErpbaJ-W3q66VEfn6mDcRi8iGiBLJEH1yxATagdVUZu2cqTQLQeBFPbX SeBHfc-1C5mNxJ363F6bgnn1mn46ByDK xPUNNZf6T6mnZwMGA87MtBInpwxGtzJZ7gAc*AXbNftog3ZNNR8K8=
wx:岑峰 网页版 2017-10-23 05:29
深度学习 视觉 算法 应用 行业动态 机器人 可视化 强化学习 王蓁
「开发 | Intel发布开源增强学习框架Coach，多线程实现领先的增强学习算法」AI科技评论消息，日前，英特尔发布了一个新的开源增强学习框架Coach。该框架利用多核CPU处理能力，用于训练和评估增强学习Agent。Coach包含一些领先的增强学习算法的多线程实现，适用于各种游戏和机器人环境。它能够在台式计算机上高效地训练强化学习Agent，而无需任何额外的硬件。自从2016年推出用于深层加强学习的异步方法以来，许多算法通过在许多CPU内核中并行运行多个实例，能够更快地实现更好的策略。到目前为止，这些算法包括A3C 、DDPG、PPO、DFP和NAF，而Coach不仅包括上述等最新算法的实现，更可以帮助用户现场搭建使用。 要使用Coach首先需要定义想要解决的问题，或选择一个现有问题，然后选择一套强化学习算法来解决问题。Coazh可以使用现有算法进行简单的实验，并用作沙盒（雷锋网注：沙盒是在受限的安全环境中运行应用程序的一种做法，这种做法是要限制授予应用程序的代码访问权限，便于在开发测试中的调试）以简化新算法的开发。框架定义了一组用于强化学习的API和关键组件，使用户能够轻松地重用组件，并在现有的组件之上构建新的算法。Coach可与如OpenAI Gym、Roboschool和ViZDoom等顶级环境进行集成，同时它还提供了可视化培训过程和了解代理的基本机制的各种技术，所有的算法都是使用英特尔优化的TensorFlow来实现的，也可以通过Intel的neon™框架来实现。Coach包含许多Agent类型的实现，包括从单线程实现到多线程实现的无缝转换。Agent以模块化方式实现，以允许重用不同的构建块来构建新的和更复杂的代理。此外，Coach可以在单个任务的基础上编写新的Agent，并切换到同步或异步的多任务实现，并进行最少的更改。在Coach中集成了过去几年引入的各种Agent类型的实现方式，这让用户解决具有不同需求和与代理交互的方式的环境，例如连续和离散的动作空间，视觉观察空间或仅包括原始测量的观察空间。 环境Coach使用OpenAI Gym作为与不同环境进行交互的主要工具。它还支持Gym的外部扩展，包括Roboschool， gym-extensions和PyBullet, 其环境封装器可以添加更多的自定义环境，以解决更广泛的学习问题。Intel还发布了Coach Dashboard作为可视化和调试的补充工具。Dashboard是Coach的一个图形用户界面，通过展示训练过程中的不同信号，可以让用户以简单易懂的方式比较不同方式运行的训练质量。在训练期间，Coach可跟踪任何有意义的内部信息并存储，以便在执行期间和完成后可视化进度。Coach还支持其他调试和可视化方法，例如存储最佳场景的GIF动画，在游戏过程中显示动作值，等等。为方便用户使用Coach，Intel已经开放了GitHub信息库，然后按照的机器上安装Coach的说明进行操作即可。Intel还提供了友好的帮助文件，在GitHub存储库README文档中有几个简单的例子，同时在官网还有一个更全面的使用和实现文档。Coach已经准备了超过60个预定义的预设、不同的代理和可用的环境。这些预设已经用于训练数百名Agent，并经过验证以获得良好的业绩。但是，使用这些预设并不是强制性的，并且创建新的预设与选择现有代理和现有环境一样容易。下一步，Intel计划在未来的版本中增加更多算法和环境，如果你有任何建议和评论，可以在Github上进行互动。AI科技评论发现，目前不少巨头均推出了自己的深度学习框架，如Google 的TensorFlow、Amazon 的MxNet、Facebook的Caffe 2等。这些深度学习框架的流行降低了深度学习的门槛，让越来越多人开始参与到深度学习当中，但在降低门槛后如何提高训练的效率也成为了差异化的关键因素，这也是是多线程并行计算、多机器上的水平扩展甚至定制硬件最近开始得势的原因。————— 给爱学习的你的福利 —————随着大众互联网理财观念的逐步普及，理财规模随之扩大，应运而生的智能投顾，成本低、风险分散、无情绪化，越来越多的中产阶层、大众富裕阶层已然在慢慢接受。王蓁博士将以真实项目带你走上智能投顾之路，详情请识别下图二维码或点击文末阅读原文～———————————————————— via: http://mp.weixin.qq.com/s?__biz=MzI5NTIxNTg0OA==&mid=2247487771&idx=3&sn=865c5864f0dfefb7a432cd6bf71021f8&scene=0#wechat_redirect
深度学习 视觉 算法 应用 行业动态 机器人 可视化 强化学习 王蓁
「开发 | Intel发布开源增强学习框架Coach，多线程实现领先的增强学习算法」AI科技评论消息，日前，英特尔发布了一个新的开源增强学习框架Coach。该框架利用多核CPU处理能力，用于训练和评估增强学习Agent。Coach包含一些领先的增强学习算法的多线程实现，适用于各种游戏和机器人环境。它能够在台式计算机上高效地训练强化学习Agent，而无需任何额外的硬件。自从2016年推出用于深层加强学习的异步方法以来，许多算法通过在许多CPU内核中并行运行多个实例，能够更快地实现更好的策略。到目前为止，这些算法包括A3C 、DDPG、PPO、DFP和NAF，而Coach不仅包括上述等最新算法的实现，更可以帮助用户现场搭建使用。 要使用Coach首先需要定义想要解决的问题，或选择一个现有问题，然后选择一套强化学习算法来解决问题。Coazh可以使用现有算法进行简单的实验，并用作沙盒（雷锋网注：沙盒是在受限的安全环境中运行应用程序的一种做法，这种做法是要限制授予应用程序的代码访问权限，便于在开发测试中的调试）以简化新算法的开发。框架定义了一组用于强化学习的API和关键组件，使用户能够轻松地重用组件，并在现有的组件之上构建新的算法。Coach可与如OpenAI Gym、Roboschool和ViZDoom等顶级环境进行集成，同时它还提供了可视化培训过程和了解代理的基本机制的各种技术，所有的算法都是使用英特尔优化的TensorFlow来实现的，也可以通过Intel的neon™框架来实现。Coach包含许多Agent类型的实现，包括从单线程实现到多线程实现的无缝转换。Agent以模块化方式实现，以允许重用不同的构建块来构建新的和更复杂的代理。此外，Coach可以在单个任务的基础上编写新的Agent，并切换到同步或异步的多任务实现，并进行最少的更改。在Coach中集成了过去几年引入的各种Agent类型的实现方式，这让用户解决具有不同需求和与代理交互的方式的环境，例如连续和离散的动作空间，视觉观察空间或仅包括原始测量的观察空间。 环境Coach使用OpenAI Gym作为与不同环境进行交互的主要工具。它还支持Gym的外部扩展，包括Roboschool， gym-extensions和PyBullet, 其环境封装器可以添加更多的自定义环境，以解决更广泛的学习问题。Intel还发布了Coach Dashboard作为可视化和调试的补充工具。Dashboard是Coach的一个图形用户界面，通过展示训练过程中的不同信号，可以让用户以简单易懂的方式比较不同方式运行的训练质量。在训练期间，Coach可跟踪任何有意义的内部信息并存储，以便在执行期间和完成后可视化进度。Coach还支持其他调试和可视化方法，例如存储最佳场景的GIF动画，在游戏过程中显示动作值，等等。为方便用户使用Coach，Intel已经开放了GitHub信息库，然后按照的机器上安装Coach的说明进行操作即可。Intel还提供了友好的帮助文件，在GitHub存储库README文档中有几个简单的例子，同时在官网还有一个更全面的使用和实现文档。Coach已经准备了超过60个预定义的预设、不同的代理和可用的环境。这些预设已经用于训练数百名Agent，并经过验证以获得良好的业绩。但是，使用这些预设并不是强制性的，并且创建新的预设与选择现有代理和现有环境一样容易。下一步，Intel计划在未来的版本中增加更多算法和环境，如果你有任何建议和评论，可以在Github上进行互动。AI科技评论发现，目前不少巨头均推出了自己的深度学习框架，如Google 的TensorFlow、Amazon 的MxNet、Facebook的Caffe 2等。这些深度学习框架的流行降低了深度学习的门槛，让越来越多人开始参与到深度学习当中，但在降低门槛后如何提高训练的效率也成为了差异化的关键因素，这也是是多线程并行计算、多机器上的水平扩展甚至定制硬件最近开始得势的原因。————— 给爱学习的你的福利 —————随着大众互联网理财观念的逐步普及，理财规模随之扩大，应运而生的智能投顾，成本低、风险分散、无情绪化，越来越多的中产阶层、大众富裕阶层已然在慢慢接受。王蓁博士将以真实项目带你走上智能投顾之路，详情请识别下图二维码或点击文末阅读原文～———————————————————— via: http://mp.weixin.qq.com/s?__biz=MzI5NTIxNTg0OA==&mid=2247487771&idx=3&sn=865c5864f0dfefb7a432cd6bf71021f8&scene=0#wechat_redirect
爱可可-爱生活 网页版 2017-10-22 08:15
算法 可视化 神经网络
【在浏览器里可视化训练神经网络】“MiaBellaAI Neural Net” http://t.cn/RWyO9MD
爱可可-爱生活 网页版 2017-10-22 06:14
自然语言处理 Sebastian Ruder
【词嵌入趋势与发展方向分析】《Word embeddings in 2017: Trends and future directions》by Sebastian Ruder http://t.cn/RWyaVOp
最新动态
2017-10-22 (13)
wx: 网页版 2017-10-22 21:12
公告板 会议活动 视觉 算法 应用 语音 资源 自然语言处理 AAAI Alex Smola Charles Sutton CVPR ECCV EMNLP ICCV ICLR ICML IJCAI KDD Linan Gong NIPS OSDI PDF SIGIR Tuomas Sandholm 行业动态 胡郁 会议 机器人 贾佳亚 可视化 论文 数据科学 王永东 信息检索
「【ArXiv究竟多受欢迎？】计算机科学63大顶会10年数据证明」AI WORLD 2017世界人工智能大会倒计时 17 天】 大会早鸟票已经售罄，现正式进入全额票阶段。还记得去年一票难求的AI WORLD 2016盛况吗？今年，即将于2017年11月8日在北京国家会议中心举办的AI World 2017世界人工智能大会上，我们请到CMU教授、冷扑大师发明人Tuomas Sandholm、 百度副总裁王海峰 、微软全球资深副总裁王永东、亚马逊AWS机器学习总监Alex Smola 、科大讯飞执行总裁胡郁，华为消费者事业群总裁邵洋、腾讯优图实验室杰出科学家贾佳亚 等国内外人工智能领袖参会并演讲，一起探讨中国与世界AI的最新趋势。点击文末阅读原文，马上参会！抢票链接： http://www.huodongxing.com/event/2405852054900?td=4231978320026大会官网：http://www.aiworld2017.com 新智元报道 来源：ArXiv作者：闻菲 【新智元导读】爱丁堡大学的研究人员彻底调查了63大计算机科学领域顶会过去10年论文发表情况，发现如今有23％都在arXiv.org上有电子版本，而10年前这个数字只有1％。其中，机器学习和CS理论两个子领域的电子版增长幅度尤甚，超过60％的论文都有arXiv电子版本。不仅如此，在2017年arXiv上发布的论文中，有56％是在提交之前或在审核中的预印本。报告针对预印版对学术/会议发表的影响，以及研究者该如何传播自己的学术成果提出了意见和建议。 ArXiv在计算机科学里究竟有多受欢迎？先来看一组数字： 2017年，所有计算机科学论文里，有23％在arXiv.org上有电子版本，而10年前这个数字只有1％许多研究人员都使用arXiv来发布预印版论文。在2017年arXiv上发布的论文中，有56％是在提交同行评议之前或在审核中的预印本计算机科学的各个领域中，电子文献的流行程度差异很大。理论计算机科学与机器学习领域，超过60％的发表论文有arXiv电子版本；其他领域对arXiv的使用率基本为零。不过，大多数领域对arXiv的使用都处于上升趋势 上述统计来自爱丁堡大学信息学院的 Charles Sutton 和 Linan Gong 的一份报告，发表在arXiv上面，题为《ArXiv.org 在计算机科学领域的流行程度》（Popularity of arXiv.org within Computer Science，链接： https://arxiv.org/pdf/1710.05225.pdf）。 作者认为，现如今arXiv/CoRR、HAL、bioRxiv这样的集中式电子文献库（centralized e-print repository），流行程度已经达到引爆点，有必要对其进行系统性的调研，关注其对计算机科学研究人员和开发者的影响。 在计算机科学领域传播研究的一个重要方面，便是论文是否，或者在何处以及何时以电子形式被人获取。在报告中，Charles Sutton 和 Linan Gong 调查了过去十年中在计算机科学领域最顶尖的63个会议中发表的所有论文，并将这一庞大的数据与arXiv预印版服务器相匹配。 他们量化了计算机科学家在这些电子文献库中存储论文的程度，有多少论文在审查过程之前或期间以预印本的形式发表，以及有多少论文只在经过同行评议后才上传到arXiv做交流使用。 在继续之前，有一些名词要明确意义。首先，文中提到的“e-prints”，也即电子文献，指作者直接在线公开的论文，包括在arXiv的版本，也包括在作者所属研究机构及个人主页的版本。其次，“preprint”，预印本，在这项调查中，指在被同行评议接受前的电子论文，也可以在不同的地方发表。 调查所覆盖的 63 大计算机科学顶级会议： 算法（Algorithms and complexity）：STOC, SODA, FOCS人工智能（Artificial intelligence）：AAAI, IJCAI计算机体系结构（Computer architectures）：MICRO, ISCA, ASPLOS密码学（Cryptography）：EUROCRYPT, CRYPTO数据挖掘（Data mining）：KDD数据库（Databases）：PVLDB, SIGMOD设计自动化（Design automation）：DAC, ICCAD嵌入式系统（Embedding systems）：RTSS, RTAS, EMSOFT计算机图形学（Graphics）：SIGGRAPH (+Asia)人机交互（HCI）：UbiComp, CHI, UIST高性能计算（High performance computing）：SC, ICS, HPDC信息检索（Information retrieval）：WWW, SIGIR逻辑和验证（Logic and verification）：CAV, LICS机器学习（Machine learning）：NIPS, ICML系统性能评估（Measurement）：SIGMETRICS, IMC移动计算（Mobile computing）：MobiSys, MobiCom, SenSys自然语言处理（NLP）：ACL, HLT-NAACL, EMNLP网络（Networking）：NSDI, INFOCOM, SIGCOMM操作系统（Operating systems）：USENIX, SOSP/OSDI, EuroSys编程语言（Programming languages）：POPL, PLDI机器人技术（Robotics）：RSS, ICRA, IROS网络与信息安全（Security）：CCS, IEEE S&P, USENIX Security软件工程（Software engineering）：ASE, ICSE, FSE视觉（Vision）：ECCV, CVPR, ICCV可视化（Visualization）：IEEE VIS + VR 下图展示了相关会议（至少有10篇电子文献在arXiv上），2017年接收论文中电子文献（e-prints）和预印版（preprints）的比例。 由上图可知，机器学习顶会ICML，2017年共接收论文427篇，其中有278篇（65%）有电子文献，也是所有会议中电子文献比例最高的，有204篇（48%）有预印本——单看数量是最多的，看比例也在所有会议中排第二，仅次于计算理论国际年会STOC。 人工智能顶会AAAI和IJCAI也有上榜，分别有25%和18%的论文有电子传播形式（也即拥有电子文献eprints），分别有12%和8%的论文提前发表（也即有预印本pre-prints）。 为了更加形象的展示这些趋势，作者对上述统计做了可视化。下图中，每条线段代表了会议的电子呈现情况，左边浅蓝色的点表示预印本比例，右边蓝色点表示电子文献比例。 作者还考虑了计算机科学各个子领域中拥有电子文献的差距。由下图可见，实际上差距并不太大（排除部分没有DBLP数据会议的情况）。 根据统计数据结果，作者指出，预印版论文和电子文献库在计算机科学领域已经达到普及的程度，可以说今后也将一直存在。不过，这种趋势出现的时间相对较近，因此CS社区可能还会有变化也说不定。作者还就研究人员和从业者如何应对预印版和电子文献库给出了几点建议： 作者：将电子文献库纳入研究成果传播范围。有鉴于arXiv/CoRR的流行程度，“我们认为所有的CS研究论文都应当在arXiv/CoRR有公开的电子文献，除非领域中已有受欢迎的专业库” 评审、期刊编辑和会议主席：要意识到预印版的流行，并相应调整评审指导规则和规范。需要指出，虽然预印版的出现加大了让双盲评审失效的风险，但真心要让双盲评审失效，有各种各样的手段，这在预印版和电子文献库出现以前就已经存在。 研究社区：需要就是否鼓励预印版进行长期的讨论。作者表示，预印版确实是个很棘手的问题，尤其涉及双盲评审——就连开创了公开评议机制（open review）的ICLR，在2018年也将采用双盲评审。 计算机从业者：应当意识到arXiv这样集中式的电子文献库已经成为CS领域快速传播的有效载体，应当考虑订阅自己专业领域的邮件提醒。 工具创建者：为CS创建评审、传播和发表/出版模型的相关人士，应当投入多一倍的努力，考虑新的发表/出版模型。现在正是重新思考arXiv提出的大好时机。 报告地址： https://arxiv.org/pdf/1710.05225.pdf 除了学术会议，将产学研聚集到一起的第三方综合会议也是深入了解AI 技术最新进展和产业情况的绝好场所！ 点击“阅读原文”，参加新智元世界人工智能大会，马上抢票！ 【AI WORLD 2017世界人工智能大会倒计时 17 天】点击图片查看嘉宾与日程。大会门票销售火热，抢票链接： http://www.huodongxing.com/event/2405852054900?td=4231978320026【扫一扫或点击阅读原文抢购大会门票】AI WORLD 2017 世界人工智能大会购票二维码： via: http://mp.weixin.qq.com/s?__biz=MzI3MTA0MTk1MA==&mid=2652006524&idx=1&sn=12a6172d676746b57bd97a2ffdcfd7b1&scene=0#wechat_redirect
公告板 会议活动 视觉 算法 应用 语音 资源 自然语言处理 AAAI Alex Smola Charles Sutton CVPR ECCV EMNLP ICCV ICLR ICML IJCAI KDD Linan Gong NIPS OSDI PDF SIGIR Tuomas Sandholm 行业动态 胡郁 会议 机器人 贾佳亚 可视化 论文 数据科学 王永东 信息检索
「【ArXiv究竟多受欢迎？】计算机科学63大顶会10年数据证明」AI WORLD 2017世界人工智能大会倒计时 17 天】 大会早鸟票已经售罄，现正式进入全额票阶段。还记得去年一票难求的AI WORLD 2016盛况吗？今年，即将于2017年11月8日在北京国家会议中心举办的AI World 2017世界人工智能大会上，我们请到CMU教授、冷扑大师发明人Tuomas Sandholm、 百度副总裁王海峰 、微软全球资深副总裁王永东、亚马逊AWS机器学习总监Alex Smola 、科大讯飞执行总裁胡郁，华为消费者事业群总裁邵洋、腾讯优图实验室杰出科学家贾佳亚 等国内外人工智能领袖参会并演讲，一起探讨中国与世界AI的最新趋势。点击文末阅读原文，马上参会！抢票链接： http://www.huodongxing.com/event/2405852054900?td=4231978320026大会官网：http://www.aiworld2017.com 新智元报道 来源：ArXiv作者：闻菲 【新智元导读】爱丁堡大学的研究人员彻底调查了63大计算机科学领域顶会过去10年论文发表情况，发现如今有23％都在arXiv.org上有电子版本，而10年前这个数字只有1％。其中，机器学习和CS理论两个子领域的电子版增长幅度尤甚，超过60％的论文都有arXiv电子版本。不仅如此，在2017年arXiv上发布的论文中，有56％是在提交之前或在审核中的预印本。报告针对预印版对学术/会议发表的影响，以及研究者该如何传播自己的学术成果提出了意见和建议。 ArXiv在计算机科学里究竟有多受欢迎？先来看一组数字： 2017年，所有计算机科学论文里，有23％在arXiv.org上有电子版本，而10年前这个数字只有1％许多研究人员都使用arXiv来发布预印版论文。在2017年arXiv上发布的论文中，有56％是在提交同行评议之前或在审核中的预印本计算机科学的各个领域中，电子文献的流行程度差异很大。理论计算机科学与机器学习领域，超过60％的发表论文有arXiv电子版本；其他领域对arXiv的使用率基本为零。不过，大多数领域对arXiv的使用都处于上升趋势 上述统计来自爱丁堡大学信息学院的 Charles Sutton 和 Linan Gong 的一份报告，发表在arXiv上面，题为《ArXiv.org 在计算机科学领域的流行程度》（Popularity of arXiv.org within Computer Science，链接： https://arxiv.org/pdf/1710.05225.pdf）。 作者认为，现如今arXiv/CoRR、HAL、bioRxiv这样的集中式电子文献库（centralized e-print repository），流行程度已经达到引爆点，有必要对其进行系统性的调研，关注其对计算机科学研究人员和开发者的影响。 在计算机科学领域传播研究的一个重要方面，便是论文是否，或者在何处以及何时以电子形式被人获取。在报告中，Charles Sutton 和 Linan Gong 调查了过去十年中在计算机科学领域最顶尖的63个会议中发表的所有论文，并将这一庞大的数据与arXiv预印版服务器相匹配。 他们量化了计算机科学家在这些电子文献库中存储论文的程度，有多少论文在审查过程之前或期间以预印本的形式发表，以及有多少论文只在经过同行评议后才上传到arXiv做交流使用。 在继续之前，有一些名词要明确意义。首先，文中提到的“e-prints”，也即电子文献，指作者直接在线公开的论文，包括在arXiv的版本，也包括在作者所属研究机构及个人主页的版本。其次，“preprint”，预印本，在这项调查中，指在被同行评议接受前的电子论文，也可以在不同的地方发表。 调查所覆盖的 63 大计算机科学顶级会议： 算法（Algorithms and complexity）：STOC, SODA, FOCS人工智能（Artificial intelligence）：AAAI, IJCAI计算机体系结构（Computer architectures）：MICRO, ISCA, ASPLOS密码学（Cryptography）：EUROCRYPT, CRYPTO数据挖掘（Data mining）：KDD数据库（Databases）：PVLDB, SIGMOD设计自动化（Design automation）：DAC, ICCAD嵌入式系统（Embedding systems）：RTSS, RTAS, EMSOFT计算机图形学（Graphics）：SIGGRAPH (+Asia)人机交互（HCI）：UbiComp, CHI, UIST高性能计算（High performance computing）：SC, ICS, HPDC信息检索（Information retrieval）：WWW, SIGIR逻辑和验证（Logic and verification）：CAV, LICS机器学习（Machine learning）：NIPS, ICML系统性能评估（Measurement）：SIGMETRICS, IMC移动计算（Mobile computing）：MobiSys, MobiCom, SenSys自然语言处理（NLP）：ACL, HLT-NAACL, EMNLP网络（Networking）：NSDI, INFOCOM, SIGCOMM操作系统（Operating systems）：USENIX, SOSP/OSDI, EuroSys编程语言（Programming languages）：POPL, PLDI机器人技术（Robotics）：RSS, ICRA, IROS网络与信息安全（Security）：CCS, IEEE S&P, USENIX Security软件工程（Software engineering）：ASE, ICSE, FSE视觉（Vision）：ECCV, CVPR, ICCV可视化（Visualization）：IEEE VIS + VR 下图展示了相关会议（至少有10篇电子文献在arXiv上），2017年接收论文中电子文献（e-prints）和预印版（preprints）的比例。 由上图可知，机器学习顶会ICML，2017年共接收论文427篇，其中有278篇（65%）有电子文献，也是所有会议中电子文献比例最高的，有204篇（48%）有预印本——单看数量是最多的，看比例也在所有会议中排第二，仅次于计算理论国际年会STOC。 人工智能顶会AAAI和IJCAI也有上榜，分别有25%和18%的论文有电子传播形式（也即拥有电子文献eprints），分别有12%和8%的论文提前发表（也即有预印本pre-prints）。 为了更加形象的展示这些趋势，作者对上述统计做了可视化。下图中，每条线段代表了会议的电子呈现情况，左边浅蓝色的点表示预印本比例，右边蓝色点表示电子文献比例。 作者还考虑了计算机科学各个子领域中拥有电子文献的差距。由下图可见，实际上差距并不太大（排除部分没有DBLP数据会议的情况）。 根据统计数据结果，作者指出，预印版论文和电子文献库在计算机科学领域已经达到普及的程度，可以说今后也将一直存在。不过，这种趋势出现的时间相对较近，因此CS社区可能还会有变化也说不定。作者还就研究人员和从业者如何应对预印版和电子文献库给出了几点建议： 作者：将电子文献库纳入研究成果传播范围。有鉴于arXiv/CoRR的流行程度，“我们认为所有的CS研究论文都应当在arXiv/CoRR有公开的电子文献，除非领域中已有受欢迎的专业库” 评审、期刊编辑和会议主席：要意识到预印版的流行，并相应调整评审指导规则和规范。需要指出，虽然预印版的出现加大了让双盲评审失效的风险，但真心要让双盲评审失效，有各种各样的手段，这在预印版和电子文献库出现以前就已经存在。 研究社区：需要就是否鼓励预印版进行长期的讨论。作者表示，预印版确实是个很棘手的问题，尤其涉及双盲评审——就连开创了公开评议机制（open review）的ICLR，在2018年也将采用双盲评审。 计算机从业者：应当意识到arXiv这样集中式的电子文献库已经成为CS领域快速传播的有效载体，应当考虑订阅自己专业领域的邮件提醒。 工具创建者：为CS创建评审、传播和发表/出版模型的相关人士，应当投入多一倍的努力，考虑新的发表/出版模型。现在正是重新思考arXiv提出的大好时机。 报告地址： https://arxiv.org/pdf/1710.05225.pdf 除了学术会议，将产学研聚集到一起的第三方综合会议也是深入了解AI 技术最新进展和产业情况的绝好场所！ 点击“阅读原文”，参加新智元世界人工智能大会，马上抢票！ 【AI WORLD 2017世界人工智能大会倒计时 17 天】点击图片查看嘉宾与日程。大会门票销售火热，抢票链接： http://www.huodongxing.com/event/2405852054900?td=4231978320026【扫一扫或点击阅读原文抢购大会门票】AI WORLD 2017 世界人工智能大会购票二维码： via: http://mp.weixin.qq.com/s?__biz=MzI3MTA0MTk1MA==&mid=2652006524&idx=1&sn=12a6172d676746b57bd97a2ffdcfd7b1&scene=0#wechat_redirect
wx: 网页版 2017-10-22 21:12
公告板 会议活动 入门 深度学习 算法 语音 资源 自然语言处理 Alex Smola Andrew Ng Python Tony Chen Tuomas Sandholm 行业动态 胡郁 会议 机器翻译 贾佳亚 课程 神经网络 书籍 王永东 吴恩达 张猫
「【吴恩达推荐】40岁开始学习，4周编写第一个AI算法的经验谈」【AI WORLD 2017世界人工智能大会倒计时 17 天】大会早鸟票已经售罄，现正式进入全额票阶段。还记得去年一票难求的AI WORLD 2016盛况吗？今年，即将于2017年11月8日在北京国家会议中心举办的AI World 2017世界人工智能大会上，我们请到CMU教授、冷扑大师发明人Tuomas Sandholm、 百度副总裁王海峰 、微软全球资深副总裁王永东、亚马逊AWS机器学习总监Alex Smola 、科大讯飞执行总裁胡郁，华为消费者事业群总裁邵洋、腾讯优图实验室杰出科学家贾佳亚 等国内外人工智能领袖参会并演讲，一起探讨中国与世界AI的最新趋势。点击文末阅读原文，马上参会！抢票链接： http://www.huodongxing.com/event/2405852054900?td=4231978320026大会官网：http://www.aiworld2017.com 新智元编译 来源：qz.com作者：Tony Chen 编译： 马文 【新智元导读】本文是一个40多岁、完全没有编程经验的人学习机器学习的经验谈。作者把编程视为学习一门新的外语，而学会深度学习这门语言就可以和未来对话：你不需要先成为一个编程专家或数学奇才再来学习编程，你只需要愿意学习，并且能够很好地使用 Python 和 Numpy。 我不是程序员，也不是数学家。大学时上过一门必修的计算机科学课程，而我只是勉强通过——那已经是20多年前的事情。然而，现在，在我40多岁的时候，我坐在门廊上与我的新朋友 Python 和 Numpy 作战，自愿地尝试建立我的第一个神经网络。事情是怎么变成这样的？ 有一天我突发奇想：我意识到AI可能是最搅乱我的孩子们的生活的一种发展。在运营一家数据分析公司7年之后，我很想深入了解AI。因此，我决定参加一门深度学习和神经网络课程，该门课的老师是前百度首席科学家、斯坦福大学教授 Andrew Ng。 在为期四周的课程中，我花了30个小时来设计、构建和调整一个非常简单的神经网络。我很快了解到，Python 和 Numpy 并不是一本关于蛇和他的兔子小伙伴的书，而是一种广泛使用的编程语言和一个提高效率的计算插件。事实证明，为了构建一个基本的神经网络，这两个角色是我唯一需要知道的。 这门课是完美的：我需要努力，但不至于毫无头绪，我每次只学习一行代码。早期的工作很艰难，经常遇到一些令人抓耳挠腮的代码失败。但到了第二周，我写了一段简短的代码，告诉算法在200张猫的图片（训练数据集）上训练自己，以找出其他30张图片（测试数据集）中是否有猫。只有200张图片，我的第一个简单的算法大概能在80%的时间得到正确的答案。 当我意识到我刚刚编写了一个机器来识别一个生物实体时，那感觉是梦幻一般的。当完整的代码没有任何错误的时候，我握拳大喊：“OH YEAH！”，令孩子们吃了一惊。坦率地说，我对自己的反应感到惊讶。我可能只是正确地识别出了一只四条腿的猫，但现在，它给我的感觉远远不止于此： 这感觉就像我第一次开枪时。大约15年前，我第一次拿手枪射击。立即地，我意识到我正手握着一个非常强大的工具，它可以用于善，也可以用于恶。是的，我可能会伤害自己，但我也可以学会控制这种武器。编写我的第一个算法也是一样。我突然意识到，一个在蒙古拥有互联网连接、拥有一些数据以及花几百美元租用亚马逊服务器的处理能力的家伙，可能会在俄罗斯建一个改变人们生活的神经网络，或一个不那么善良的家伙，可能会让身份窃取的垃圾邮件更有效。我已经能利用一行代码的力量，但这些潜力可以用来做什么完全取决于我自己。 感觉就像调谐收音机。老式的收音机上，你需要转动一个旋钮来找到想要的电台频率。想象一下，如果你有1000个旋钮，你必须同时调谐才能找到本地新闻台。这需要花多长时间？与其花几天时间摆弄所有可能的排列组合，编写一个算法就像创造出一千人的手来转动这些拨盘，直到找到合适的组合。 感觉就像学习一门外语。最近我一直在学习斯瓦希里语和汉语。我很想加入至少会说三种语言的占世界人口13%的那些人中。AI就像另一种语言，它拥有自己的词汇、语法和句法。如果我遇到不懂的问题，就像你在遇到不认识的外语词汇那样：我会用谷歌搜索它。有好几次，我都用了搜索翻译的力量解决了。随着时间的推移，我希望能变得更流利。我现在的目标是“四语”，AI是其中一种语言。 感觉就像在指导孩子们打球。AI算法的关键在于提供一个计算机构建模块，教它如何一起玩，然后将这些简单的结果组合成更复杂的迭代。这类似于指导我11岁的孩子打篮球：一旦你教会他们传球、拦截、运球和投篮的基本知识，球场上真正的创造力就将由他们开启。 学会深度学习这一门语言，你就可以和未来对话。学会说这门语言并不像你想象的那么难。我就是一个典型的例子：你不需要先成为一个编程专家或数学奇才再来学习编程。你只需要愿意学习，并且能够很好地使用 Python 和 Numpy。 原文： https://qz.com/1105537/i-just-coded-my-first-ai-algorithm-and-oh-boy-it-felt-good/【AI WORLD 2017世界人工智能大会倒计时 17 天】点击图片查看嘉宾与日程。大会门票销售火热，抢票链接： http://www.huodongxing.com/event/2405852054900?td=4231978320026【扫一扫或点击阅读原文抢购大会门票】AI WORLD 2017 世界人工智能大会购票二维码： via: http://mp.weixin.qq.com/s?__biz=MzI3MTA0MTk1MA==&mid=2652006524&idx=2&sn=58dab9dba1dca7209372a51e9d703c0a&scene=0#wechat_redirect
公告板 会议活动 入门 深度学习 算法 语音 资源 自然语言处理 Alex Smola Andrew Ng Python Tony Chen Tuomas Sandholm 行业动态 胡郁 会议 机器翻译 贾佳亚 课程 神经网络 书籍 王永东 吴恩达 张猫
「【吴恩达推荐】40岁开始学习，4周编写第一个AI算法的经验谈」【AI WORLD 2017世界人工智能大会倒计时 17 天】大会早鸟票已经售罄，现正式进入全额票阶段。还记得去年一票难求的AI WORLD 2016盛况吗？今年，即将于2017年11月8日在北京国家会议中心举办的AI World 2017世界人工智能大会上，我们请到CMU教授、冷扑大师发明人Tuomas Sandholm、 百度副总裁王海峰 、微软全球资深副总裁王永东、亚马逊AWS机器学习总监Alex Smola 、科大讯飞执行总裁胡郁，华为消费者事业群总裁邵洋、腾讯优图实验室杰出科学家贾佳亚 等国内外人工智能领袖参会并演讲，一起探讨中国与世界AI的最新趋势。点击文末阅读原文，马上参会！抢票链接： http://www.huodongxing.com/event/2405852054900?td=4231978320026大会官网：http://www.aiworld2017.com 新智元编译 来源：qz.com作者：Tony Chen 编译： 马文 【新智元导读】本文是一个40多岁、完全没有编程经验的人学习机器学习的经验谈。作者把编程视为学习一门新的外语，而学会深度学习这门语言就可以和未来对话：你不需要先成为一个编程专家或数学奇才再来学习编程，你只需要愿意学习，并且能够很好地使用 Python 和 Numpy。 我不是程序员，也不是数学家。大学时上过一门必修的计算机科学课程，而我只是勉强通过——那已经是20多年前的事情。然而，现在，在我40多岁的时候，我坐在门廊上与我的新朋友 Python 和 Numpy 作战，自愿地尝试建立我的第一个神经网络。事情是怎么变成这样的？ 有一天我突发奇想：我意识到AI可能是最搅乱我的孩子们的生活的一种发展。在运营一家数据分析公司7年之后，我很想深入了解AI。因此，我决定参加一门深度学习和神经网络课程，该门课的老师是前百度首席科学家、斯坦福大学教授 Andrew Ng。 在为期四周的课程中，我花了30个小时来设计、构建和调整一个非常简单的神经网络。我很快了解到，Python 和 Numpy 并不是一本关于蛇和他的兔子小伙伴的书，而是一种广泛使用的编程语言和一个提高效率的计算插件。事实证明，为了构建一个基本的神经网络，这两个角色是我唯一需要知道的。 这门课是完美的：我需要努力，但不至于毫无头绪，我每次只学习一行代码。早期的工作很艰难，经常遇到一些令人抓耳挠腮的代码失败。但到了第二周，我写了一段简短的代码，告诉算法在200张猫的图片（训练数据集）上训练自己，以找出其他30张图片（测试数据集）中是否有猫。只有200张图片，我的第一个简单的算法大概能在80%的时间得到正确的答案。 当我意识到我刚刚编写了一个机器来识别一个生物实体时，那感觉是梦幻一般的。当完整的代码没有任何错误的时候，我握拳大喊：“OH YEAH！”，令孩子们吃了一惊。坦率地说，我对自己的反应感到惊讶。我可能只是正确地识别出了一只四条腿的猫，但现在，它给我的感觉远远不止于此： 这感觉就像我第一次开枪时。大约15年前，我第一次拿手枪射击。立即地，我意识到我正手握着一个非常强大的工具，它可以用于善，也可以用于恶。是的，我可能会伤害自己，但我也可以学会控制这种武器。编写我的第一个算法也是一样。我突然意识到，一个在蒙古拥有互联网连接、拥有一些数据以及花几百美元租用亚马逊服务器的处理能力的家伙，可能会在俄罗斯建一个改变人们生活的神经网络，或一个不那么善良的家伙，可能会让身份窃取的垃圾邮件更有效。我已经能利用一行代码的力量，但这些潜力可以用来做什么完全取决于我自己。 感觉就像调谐收音机。老式的收音机上，你需要转动一个旋钮来找到想要的电台频率。想象一下，如果你有1000个旋钮，你必须同时调谐才能找到本地新闻台。这需要花多长时间？与其花几天时间摆弄所有可能的排列组合，编写一个算法就像创造出一千人的手来转动这些拨盘，直到找到合适的组合。 感觉就像学习一门外语。最近我一直在学习斯瓦希里语和汉语。我很想加入至少会说三种语言的占世界人口13%的那些人中。AI就像另一种语言，它拥有自己的词汇、语法和句法。如果我遇到不懂的问题，就像你在遇到不认识的外语词汇那样：我会用谷歌搜索它。有好几次，我都用了搜索翻译的力量解决了。随着时间的推移，我希望能变得更流利。我现在的目标是“四语”，AI是其中一种语言。 感觉就像在指导孩子们打球。AI算法的关键在于提供一个计算机构建模块，教它如何一起玩，然后将这些简单的结果组合成更复杂的迭代。这类似于指导我11岁的孩子打篮球：一旦你教会他们传球、拦截、运球和投篮的基本知识，球场上真正的创造力就将由他们开启。 学会深度学习这一门语言，你就可以和未来对话。学会说这门语言并不像你想象的那么难。我就是一个典型的例子：你不需要先成为一个编程专家或数学奇才再来学习编程。你只需要愿意学习，并且能够很好地使用 Python 和 Numpy。 原文： https://qz.com/1105537/i-just-coded-my-first-ai-algorithm-and-oh-boy-it-felt-good/【AI WORLD 2017世界人工智能大会倒计时 17 天】点击图片查看嘉宾与日程。大会门票销售火热，抢票链接： http://www.huodongxing.com/event/2405852054900?td=4231978320026【扫一扫或点击阅读原文抢购大会门票】AI WORLD 2017 世界人工智能大会购票二维码： via: http://mp.weixin.qq.com/s?__biz=MzI3MTA0MTk1MA==&mid=2652006524&idx=2&sn=58dab9dba1dca7209372a51e9d703c0a&scene=0#wechat_redirect
爱可可-爱生活 网页版 2017-10-22 17:07
算法
《蒙特卡洛树是什么算法？ – 知乎》 http://t.cn/RX7I1O8
外刊IT评论 网页版 2017-10-22 16:07
深度学习 Lee Sedol
【Google推出AlphaGo Zero，可轻松战胜AlphaGo Master】经过三天的训练，该系统能够击败AlphaGo Lee，后者是去年击败了韩国选手李世石（Lee Sedol）的DeepMind软件，胜率是100比0。。经过大约40天的训练（约2900万场自玩游戏），AlphaGo Zero击败了AlphaGo Master([…] http://t.cn/ROk4xCU
刘群MT-to-Death 网页版 2017-10-22 15:35
公告板 会议活动 自然语言处理 会议 征稿
NLPers注意了，今年ACL发布了New Policies for Submission, Review and Citation，对于已经发布preprint版本的论文的投稿、评审和引用方面的问题作出了规范，请认真阅读。大意如下： （1）投稿截止日期一个月内发布preprint版本的论文不允许投稿，若投稿将被认为违反双盲评审原则； （2）审稿人在审稿…全文： http://m.weibo.cn/1917491813/4165674923998811
网路冷眼 网页版 2017-10-22 15:30
资源 课程
【TensorFlow 101】 http://t.cn/RW4TX4V TensorFlow入门教程。 TensorFlow是Google开发的开源机器学习库。 TensorFlow使用数据流图进行数值计算。图中的节点表示数学运算，而图形边缘表示在它们之间传递的多维数据阵列（张量）。在这篇文章中，将学习TensorFlow的基础知识，使用TensorFlow构建一个Log…全文： http://m.weibo.cn/1715118170/4165673590323588
外刊IT评论 网页版 2017-10-22 14:07
经验总结 深度学习 David Silver Julian Schrittwieser 经验
【DeepMind团队介绍是如何使用人工智能开发最强AlphaGo的】#最强阿尔法狗诞生#昨天关于AlphaGo的报道再次震惊所有人。而就在前不久，这个史上最强围棋AI的两位主要开发者——David Silver和Julian Schrittwieser，做客知名网站reddit，展开一场超级问答AMA（Ask Me […] http://t.cn/RWhVlcn
IT技术头条 网页版 2017-10-22 11:19
视觉 Python 谷爹
【python基于万象优图识别图片中的中文】4最近一直在研究光学字符识别，即OCR。最开始在谷爹那里了解到了开源的Tesseract，可以拿来识别简单的英文和数字。但是识别中文的准确率并不高。 然后从Tesseract到Tesseract.js… 详戳→ http://t.cn/RWvm68f 作者→ (蝉时雨)
IT技术头条 网页版 2017-10-22 08:57
深度学习
【记忆网络（译）】1笔者：本文为英文论文的翻译文章，供机器学习、深度学习相关学者参考，如有错误理解之处请指出，不胜感激！（如需转载，请联系本人： “jtianwen2014” ，并注明 “出处” ）。 “记忆网络（译）” Jason… 详戳→ http://t.cn/RWyQrMY 作者→ (天文-HITer)
大数据_机器学习 网页版 2017-10-22 08:12
深度学习 资源 Ian Goodfellow Yann Lecun 课程 统计
机器学习的资源 >>>> 。 蒙特利尔大学机器学习团队成员链接主页，包括大牛Bengio，还有Ian Goodfellow 等。 纽约大学的机器学习团队成员链接主页，包括大牛Lecun，…完挺有收获的。 机器学习一个视频教程，youtube上的，翻吧，内容很全面，偏概率统计模型，每一小集只有几分钟。 龙星计划20…全文： http://m.weibo.cn/5291384903/4165563234277965
爱可可-爱生活 网页版 2017-10-22 06:13
Python
【Intel Nervana发布(Python)增强学习库Coach】“Coach – a python environment which models the interaction between an agent and an environment in a modular way” http://t.cn/RWyaq2q
爱可可-爱生活 网页版 2017-10-22 06:00
架构 资源 Andy Feng Lee Yang Spark 视频
【基于Spark集群的Tensorflow可扩展学习】《TensorFlow On Spark: Scalable TensorFlow Learning on Spark Clusters – YouTube》by Andy Feng, Lee Yang http://t.cn/RWyXn1g
大数据_机器学习 网页版 2017-10-22 02:11
R语言
R语言做相关性分析 >>>> 量之间的相关性 R语言中求两个随机变量pearson相关系数的函数: 1//赋予a,b向量值 2a<-c(1,2,3) 3b<-c(11,12,14) 4 5/…相关系数即可. R语言中求两个随机变量的spearman相关系数的函数: 1 //赋予a,b向量值 2 a<-c(1,10,100,101) 3 b<-c(21 …全文： http://m.weibo.cn/5291384903/4165472398293751