异步的SGD

1

现在以Hogwild!为代表的异步SGD算法很火,Hogwild!是一种lock-free的异步并行算法,虽然理论证明了有lock的时候是收敛的,但在lock-free的时候并没有理论证明收敛性。我们提出了一种比Hogwild!收敛更快的lock-free异步并行算法,并在理论上证明在lock-free情况下是收敛的
@李武军nju
搞定2篇AAAI,第一作者都来自我在南大指导的学生。一篇来自本科大四学生@Kwc_Oliver ,关于supervised discrete hashing,直接学习离散的哈希编码;另一篇来自研二学生@Null0set ,基于lock-free的快速异步并行SGD。到南大一年多了,这一年多很不容易,一切得重新开始,现在总算慢慢上正轨了。

2

@爱可可-爱生活
【基于Intel TBB/RcppParallel实现高性能异步并行SGD/AdaGrad】《Writing fast asynchronous SGD/AdaGrad with RcppParallel》by Dmitriy Selivanov O网页链接

你可能感兴趣的:(异步的SGD)