智源社区AI周刊:Hinton预测破解大脑机制时间;Gary Marcus批判追捧深度学习风潮;谷歌发布Imagen...

智源社区AI周刊:Hinton预测破解大脑机制时间;Gary Marcus批判追捧深度学习风潮;谷歌发布Imagen..._第1张图片

汇聚每周必看AI观点、研究和各类资源,不错过一条重要资讯!欢迎扫码订阅,获取邮件推送。

观点

“我们会在未来的五年内破解这些(人脑的)程序......现有的一切人工智能,都是建立在与大脑高层次上所做的事情完全不同的基础上......假设有数十亿的参数,这些神经元间的权重在大量训练实例的基础上去调整,会发生奇妙的事情。大脑是如此,深度学习也是如此。但问题在于,如何获得调整参数的梯度......目前我的信念是,反向传播......与大脑的机制完全不同,大脑以(与反向传播)不同的方式获取梯度。”

——6月8日,深度学习三巨头之一的Geoffrey Hinton做客Robot Brain播客节目,对大脑机制进行阐述时如是说。

“现在,我们被困在‘局部最小值’中,公司追求提升模型的基准测试水平,而不是提出基础性的想法。他们采用已有的技术,勉强进行着小幅的改进,而不是停下来,追求解决更为根本的问题。我们需要更多的研究者,去问出更为基本的问题:如何构建能够同时学习和推理的系统,而不是追求华丽闪光灯下的媒体演示。当前的工程实践远远走在科学之前,(研究者们)更努力地使用那些他们都尚未完全理解的工具,而不是开发新工具和奠定更为清晰的理论基础。基础研究仍然非常重要。”

——6月6日,纽约大学教授,AI学者Gary Marcus在《科学美国人》网站发文,抨击当前追捧深度学习和大规模预训练模型的风潮。

研究前沿

点击阅读原文查看完整内容

  1. 谷歌发布Imagen模型,图像生成质量超过DALL·E 2

  2. OpenAI工程师Lilian Weng与CTO Greg Brockman合作撰写多GPU上并行训练大模型的技术文章

  3. 《Nature Medicine》文章:基于群体学习的分散式人工智能在癌症组织病理学中的应用

  4. 德国乌尔姆大学团队提出预训练3D蛋白结构的对比表征学习框架

  5. 图灵奖得主Adi Shamir最新理论,揭秘对抗性样本奥秘(智源大会特邀报告)

  6. 中科院梅宏院士:如何构造人工群体智能?(智源大会特邀报告)

  7. 刘群、陶建华、刘挺、黄萱菁、刘洋等解读NLP最新趋势(智源大会自然语言处理论坛)

机构和科学家动态

  1. Kaggle联合创始人、首席执行官Anthony Goldbloom离职,开启新创业

6月6日,Kaggle官方宣布D. Sculley将成为Kaggle新领导者,其联合创始人兼首席执行官Anthony Goldbloom以及联合创始人兼CTO Ben Hamner将离开Kaggle,选择创业。Anthony Goldbloom于2010年在墨尔本创立了Kaggle,主要为开发者和数据科学家提供举办机器学习竞赛、托管数据库、编写和分享代码的平台。2017年3月谷歌官方博客宣布收购Kaggle,目前该平台已经吸引了数百万数据科学家的关注,最近Kaggle刚刚度过12周年纪念日。

  1. IJCAI 2022四大奖项揭晓,Stuart Russell获卓越研究奖、UIUC李博获计算机与思想奖

近日,IJCAI 正式公布了 2022 年度的部分奖项,包括卓越研究奖(Research Excellence Award)、计算机与思想奖(Computer and Thought Award)、约翰麦卡锡奖(John McCarthy Award)、杰出服务奖(Donald E. Walker Distinguished Service Award)。以上奖项的获得者分别是UC伯克利教授Stuart Russell、UIUC助理教授李博、布朗大学教授Michael L. Littman和前弗莱堡大学教授Bernhard Nebel。

  1. DeepMind称将释放所有已知的蛋白质结构,数量预计超过1亿个

早在2020年12月,DeepMind用AlphaFold解决了蛋白质结构预测问题。目前,DeepMind已经公布了该工具的全部细节,并发布了源代码。DeepMind表示,将在未来几个月内为科学界预测并释放超过 1 亿个结构——基本包含所有已知的蛋白质。

资源

点击阅读原文查看完整内容

  1. Hugging Face发布机器学习模型与数据集评估库Evaluate

  2. 因果推理统计工具377页教程书

  3. 雾计算: 概念、框架和应用入门书籍

活动

点击阅读原文查看完整内容

  1. 报名 | 图灵奖得主Joseph Sifakis:Machine Intelligence – Myths and Reality (6月17日)

  2. 报名 | 清华、港大、新加坡国立、中国科学技术大学学者:自监督学习在推荐系统中的应用(6月11日)

  3. 视频回看 | 复旦大学青年副研究员许嘉蓉:基于图数据的鲁棒机器学习(AITIME)

  4. 视频回看 | 第十九届自然语言处理青年学者研讨会(YSSNLP 2022)


查看预训练、强化学习等领域周刊内容,欢迎点击阅读原文。

周刊线索征集和合作,请联系:[email protected]

你可能感兴趣的:(机器学习,人工智能,深度学习,编程语言,大数据)