AI Edge: 吴教授的AI教室 | OpenAI狂虐Dota2职业选手 | 美国军方试图提高自己AI技术 | 谷歌Vizier优化器优化器,但谷歌却只用它来做饼干 | ActivityNet中国队继续横扫各大比赛...

上周摘要: 吴教授开始他的三板斧的第一阶段了,一个深度学习课程;OpenAI 人工智能1v1击败职业选手,对手直接放弃比赛;美军方意识到自己AI军备力量不足,准备奋起追赶;谷歌大Vizier机器学习算法优化器,然而谷歌只用它来做饼干;ActivityNet中国队继续横扫各大比赛,政府的大力支持似乎很有效;Salesforce创造语言模型新纪录,却没有一点惊喜,不过是个大杂烩;视觉问答系统专家加入Facebook,准备开启新的技能书树

百度/谷歌/斯坦福小天使吴教授重磅回归... 一个网上深度学习课程

AI Edge: 吴教授的AI教室 | OpenAI狂虐Dota2职业选手 | 美国军方试图提高自己AI技术 | 谷歌Vizier优化器优化器,但谷歌却只用它来做饼干 | ActivityNet中国队继续横扫各大比赛..._第1张图片

... 吴教授宣布了他三个秘密项目中的第一个: 一个深度学习的网络课程,目前在在线教育平台Coursera上可以观看.

... 这个课程将用Python还有TensorFlow来授课。(吴教授的前老板百度大概要不开森地抽抽嘴角了,因为这个公司正在宣传他自己的Paddle框架)

... 关于此课程更多内容

... 彩蛋: 本周废话奖将颁发给吴教授下面这句“当你获得深度学习的专项证书后,你将可以自信的将深度学习写入你的简历了。”

OpenAI 人工智能在Dota2 1V1比赛中打败职业选手

AI Edge: 吴教授的AI教室 | OpenAI狂虐Dota2职业选手 | 美国军方试图提高自己AI技术 | 谷歌Vizier优化器优化器,但谷歌却只用它来做饼干 | ActivityNet中国队继续横扫各大比赛..._第2张图片

... 该人工智能没有使用模拟学习或是自搜索,而是通过自我学习从头学习 Dota2。这对电子竞技还有人工智能界都具有着非同寻常的意义。因为OpenAI还并没有发布出这个系统是如何训练的各种技术细节,所以有一些研究人员已经提出OpenAI利用这个成果进行大肆炒作的质疑,包括这篇还有这篇文章都有提到。

... 此次对战的对象是,Dendi, 一位在职业生涯中已赢得七十多万美金的职业选手。第一场比赛,约10分钟AI就打败了Dendi;第二场比赛中Dendi直接放弃,并且拒绝进行第三场比赛。这和之前的AlphaGo何其相似。

美国军方试图将AI融入其基于计算机视觉的项目Maven计划

... 美国军方想要利用计算机视觉领域的机器学习和深度学习技术,来自动抽取、标注、和分类由智能信号系统收集的数据,以帮助他们执行各种任务

... “我们正在一场AI军备赛跑中。”一个官员说道。该项目最初将运行36个月,在此期间,政府将尝试发展它自己的AI技术,并与工业界合作获得必要的专业知识。他们说,“你不能像买弹药一样,来买AI”。

... 彩蛋: 本周政府捉鸡命名: 算法战争跨职能队伍 (the Algorithmic Warfare Cross-Function Team)

... 在美国国防部新闻阅读更多:Project Maven toDeploy Computer Algorithms to War Zone by Year's End

... 同时,美国国防部长詹姆斯·马蒂斯上周参观了硅谷,他告诉记者,他担心政府在AI发展方面的落后。他说:“国防部将能从中学到很多,因为在这些西海岸的私企中我看到大量的最伟大的进步。”

... 阅读更多:Defense SecretaryJames Mattis Envies Silicon Valley's AI Ascent

美国医疗协会支持为病人进行诊断的AI项目

AI Edge: 吴教授的AI教室 | OpenAI狂虐Dota2职业选手 | 美国军方试图提高自己AI技术 | 谷歌Vizier优化器优化器,但谷歌却只用它来做饼干 | ActivityNet中国队继续横扫各大比赛..._第3张图片

... 美国几个最大的医疗协会开始联合起来,支持人类诊断项目 (Human Diagnosis Project)。这是一个初衷是希望能够联合人类和人工智能,使得病人能够有机会获得更多特殊治疗的项目。

... 更多: Medical associations back AI project for patient diagnosis

问:谁优化了优化器?

答:谷歌的大Vizier系统!

AI Edge: 吴教授的AI教室 | OpenAI狂虐Dota2职业选手 | 美国军方试图提高自己AI技术 | 谷歌Vizier优化器优化器,但谷歌却只用它来做饼干 | ActivityNet中国队继续横扫各大比赛..._第4张图片
Deep Dream cookies

... 最近Google简单介绍了Vizier系统,这是由该公司开发的用于自动优化机器学习算法的系统。现代AI系统虽然成果不凡,但往往需要调整大量的超参数以获得良好的性能。 (有些AI研究人员将此过程戏称为 “Grad Student Descent (恶搞Gradient Descent)”)

... 因此很值得好好读读这篇关于Vizier的长文,Vizier是一个大型优化器,可以帮助人们自动化优化过程。 “我们的实现规模可以扩大到整个Alphabet公司的超参数调节,这个规模是非常大的。举一个极端的例子,Collins等人用Vizier进行了一项超参数调优研究来调查不同递归神经网络(RNN)的性能,这一项研究中就集成了数百万个研究试验。“研究人员写到。

...该系统可同时用于调整各个系统,并通过迁移学习来优化其他系统 - 例如通过调整一个ML系统的学习率和正则化,然后在不同的数据集上,用同样的参数,来运行一个较小的优化任务。

...值得注意的是:对于超过10,000+范围的实验,Vizier支持标准的随机搜索和网格搜索技术,以及一个非常吸引人的通过图形来判断的“专属局部搜索算法 (proprietary local search algorithm) ”。

...阅读更多关于Google Vizier中的系统: Google Vizier: AService for Black-Box Optimization (PDF).

... 逗比实验:跳到文章末,会发现一个现实中运用Vizier的实验,在这个实验中,它通过Google的大量烹饪人员反复优化了公司巧克力饼干的配方。他们写道:“随着时间的推移,饼干的表现有了明显的改善,特别是到了后来评分更是非常好,作者们的意见也是,很好吃,”他们写道。

中国队横扫AcvtivityNet动作识别挑战,打败了来自来自DeepMind的原数据集队,还有其他队伍

AI Edge: 吴教授的AI教室 | OpenAI狂虐Dota2职业选手 | 美国军方试图提高自己AI技术 | 谷歌Vizier优化器优化器,但谷歌却只用它来做饼干 | ActivityNet中国队继续横扫各大比赛..._第5张图片

.. ActivityNet是一个识别野外短视频中的高级概念和活动的挑战。它包含三个数据集:ActivityNet(VCC Kaust),ActivityNetCaptions (Stanford)和Kinetics(DeepMind)。这样的挑战提出了一些很有趣的研究问题(如何推断相当抽象的概念,如“狗从未标记视频走到标记的视频”),并且对各种安全设备特别适用 - 这项研究没有一个是在真空环境进行的。

...今年的挑战是由来自清华大学和百度的一个团队获胜,其系统的前5位准确率(推荐五个答案,其中一个是正确的)为94.8%,前1位的准确率为81.4%。第二名是香港中文大学,苏黎世苏黎世大学和深圳先进技术研究所的一个小组,其中前5位为93.5%,前1位为78.6%。德国AI研究公司TwentyBN获得第三名,DeepMind的团队获得第四名。

...阅读这篇来自TwentyBN文章,了解更多:Recognizing HumanActions in Videos.

... 在最先端表现方面,进步还是相当缓慢(因为极具挑战性):去年香港中文大学/ ETHZ / SIAT获得成绩为前1位准确率为93.23%。
...包括这个,今年中国的队伍与图像和视频分类相关的比赛中排名都很高 ;其他中国队今年也纷纷横扫了ImageNet和WebVision比赛。看到国家对AI的重点投资的结果是非常好的,获奖者也应该因为他们坦然公布结果而受到赞赏,。

Salesforce创造语言模型新纪录:欢迎来到模块化时代,小题大做的AI机器

... Salesforce的研究团队,通过使用他们所谓的 weight-dropped LSTM系统, 在Penn TreeBank(52.8)和 WikiText(52)的上获得了创记录的复杂度评分。这个系统是一个相当复杂的系统,它包含各种最近的新成果,从DropConnect到Adam
to randomized-length backpropagation through time,到正则化,到temporal activation regularization。这些技术拌在一起就有了这个创纪录系统了。

... 这项研究突出了现代人工智能发展趋势,不是去设计大型的端到端通用系统(尽管我确信每个人都喜欢它,如果可以的话),而是着重于组合最近由数百名研究人员的共同努力开发的各种组件,来竭力创造新记录。

... 这个系统唯一的好处是什么呢?它可以被插入现有系统,而不需要对CuDNN等基础库的任何修改。

... 阅读更多:Regularizing andOptimizing LSTM Language Models

视觉问答 (Visual Question Answering)系统专家加入Facebook

AI Edge: 吴教授的AI教室 | OpenAI狂虐Dota2职业选手 | 美国军方试图提高自己AI技术 | 谷歌Vizier优化器优化器,但谷歌却只用它来做饼干 | ActivityNet中国队继续横扫各大比赛..._第6张图片

... 乔治亚理工大学的教授Dhruv Batra和Devi Parikh最近加入了Facebook AI Research来赚外快了,为这个社交网络AI研究所带来更多的机器视觉专业知识。

... 这两位学者以视觉问答的研究而闻名。视觉问答是,将大型语言模型与图像内容相关联,给出一张图,让你可以对图的细节进行发问,然后系统给出回答的研究。 这对于盲人,还有需要屏幕阅读器才能够上网的人非常重要。 Facebook现在增加了其网站的可访问性,所以非常值得期待的是,这两个研究人员在社交网络环境下会有什么样的新想法。

你可能感兴趣的:(AI Edge: 吴教授的AI教室 | OpenAI狂虐Dota2职业选手 | 美国军方试图提高自己AI技术 | 谷歌Vizier优化器优化器,但谷歌却只用它来做饼干 | ActivityNet中国队继续横扫各大比赛...)