直播预告： NeurlPS 2020 专场五| AI TIME PhD

点击蓝字

关注我们

AI TIME欢迎每一位AI爱好者的加入！

12月23日晚7:30-9:00

AI TIME特别邀请了3位优秀的讲者跟大家共同开启NeurIPS 2020专场五！

哔哩哔哩直播通道

扫码关注AITIME哔哩哔哩官方账号

观看直播

链接：https://live.bilibili.com/21813994

★ 邀请嘉宾 ★

陈丁凡：本科毕业于德国图宾根大学计算机系，现为德国CISPA亥姆霍兹信息安全中心的博士生，导师为Mario Fritz。主要研究方向为机器学习（差分）隐私，以及深度生成模型。

报告题目：

隐私保护与生成模型:

差分隐私GAN的梯度脱敏方法

摘要：

大规模数据的收集和利用大幅提升了机器学习算法的性能，但同时也令个人隐私保护面临更大的风险与挑战。为此，我们提出一种满足差分隐私（Differential Privacy)的生成对抗网络（GAN) 训练方法，用于拟合高维数据分布、生成具有严格隐私保护的数据集。我们的框架适用于集成式（centralized) 和分布式/联邦式（decentralized/federated)环境。实验表明，我们的方法可以提高生成样本的准确性，并在多个指标（例如样品视觉质量，通信效率）取得了最优的性能。

陈怡宁：本科毕业于达特茅斯大学计算机和哲学系，现为斯坦福大学计算机系的博士生，导师为马腾宇。主要研究兴趣是机器学习和深度学习理论，尤其是转化学习，无监督和半监督学习，以及在数据分布发生变化时，如何提高模型正确性。

报告题目：

自训练在数据分布变化时避免使用伪特征

摘要：

在无监督域自适应中，现有理论着眼于源域和目标域接近的情况。在实践中，即使源域和目标域差别很大，自训练算法也通常很成功。我们分析较大域偏移的一种情况：某些伪特征与源域中的标签相关，但与目标中的标签无关。我们考虑线性模型，伪特征是高斯分布。我们证明了：如果使用相对准确的源模型，自训练在数据分布变化时避免使用伪特征。我们在Celeb-A和MNIST数据集上验证了该理论。我们的结果表明，在标注很难获得的时候，从业人员可以在大型多样无标注的数据集上进行自训练，以提高模型准确性。

林己：本科毕业于清华大学电子工程系，现在是麻省理工学院电子工程和计算机科学系的博士生，导师为韩松。主要研究兴趣是高效率和硬件友好的深度学习算法和系统，以及视觉方面的应用。

报告题目：

嵌入式物联网设备上的微型深度学习

摘要：

基于单片机（MCU）的微型IoT设备上的机器学习很具有吸引力，但又充满挑战：单片机的内存比智能手机小2-3个数量级。我们提出了MCUNet，该框架可共同设计高效的神经体系结构（TinyNAS）和轻量级推理引擎（TinyEngine），从而在单片机上实现ImageNet规模的推理。 

TinyNAS采用两阶段的神经结构搜索方法，该方法首先优化搜索空间以适应资源限制，然后在优化的搜索空间中搜索网络体系结构。TinyNAS可以在较低的搜索成本下自动处理各种硬件限制（例如不同设备，运行时间，能耗，内存）。TinyNAS与TinyEngine共同设计，后者是一种内存高效的推理库，可扩展搜索空间并容纳更大的模型。与TF-Lite Micro和CMSIS-NN相比，TinyEngine根据整体网络结构而不是逐层优化来调整内存调度，从而将内存使用量减少了4.8倍，并将推理速度提高了1.7-3.3倍。

MCUNet是第一个在现成的商用单片机上实现ImageNet top-1准确率超过70％的方法。与量化的MobileNetV2和ResNet-18相比，其SRAM减少了3.5倍，Flash使用减少了5.7倍。在视觉和音频唤醒关键词任务上，MCUNet达到了最先进的精度，并且运行速度比基于MobileNetV2和基于ProxylessNAS的解决方案快2.4-3.4倍，峰值SRAM缩小了3.7-4.1倍。我们的研究表明，物联网设备上、始终在线的微型机器学习时代已经来临。

直播结束后我们会邀请讲者在微信群中与大家答疑交流，请添加“AI TIME小助手（微信号：AITIME_HY）”，回复“nips”，将拉您进“NeurIPS 2020 交流群”！

AI TIME微信小助手

主       办：AI TIME 、AMiner

联合支持：智源社区

合作伙伴：智谱·AI、中国工程院知领直播、学堂在线、CSDN、学术头条、biendata、大数据文摘、数据派、 Ever链动、机器学习算法与自然语言处理

AMiner是学术搜索和社会网络挖掘研究的重要数据和实验平台，由清华大学计算机系研发，拥有我国完全自主知识产权。平台包含了超过2.3亿学术论文/专利和1.36亿学者的科技图谱，提供学者评价、专家发现、智能指派、学术地图等科技情报专业化服务。系统2006年上线，吸引了全球220个国家/地区1000多万独立IP访问，数据下载量230万次，年度访问量超过1100万。        

1）AMiner平台：https://www.aminer.cn

2）会议专题页面：https://www.aminer.cn/conf/emnlp2020

清华情怀·AITIME基地

1911主题餐厅

AI TIME期待与你线下相聚！

AI TIME欢迎AI领域学者投稿，期待大家剖析学科历史发展和前沿技术。针对热门话题，我们将邀请专家一起论道。同时，我们也长期招募优质的撰稿人，顶级的平台需要顶级的你！

请将简历等信息发至[email protected]！

微信联系:AITIME_HY

 

AI TIME是清华大学计算机系一群关注人工智能发展，并有思想情怀的青年学者们创办的圈子,旨在发扬科学思辨精神，邀请各界人士对人工智能理论、算法、场景、应用的本质问题进行探索，加强思想碰撞，打造一个知识分享的聚集地。

更多资讯请扫码关注