学术速运|GPS++:用于分子性质预测的优化混合MPNN/Transformer

学术速运|GPS++:用于分子性质预测的优化混合MPNN/Transformer_第1张图片

题目:GPS++: AN OPTIMISED HYBRID MPNN/TRANSFORMER FOR MOLECULAR PROPERTY PREDICTION

文献来源:https://doi.org/10.48550/arXiv.2212.02229

代码:https://github.com/graphcore/ogb-lsc-pcqm4mv2

简介:本技术报告介绍了用于PCQM4Mv2分子性质预测任务的开放图基准大规模挑战赛(OGB-LSC 2022)中的前三名入围方法GPS++。我们的方法贯彻了先前文献中的几个关键原则。我们的GPS++方法的核心是一个混合MPNN/Transformer模型,它包含三维原子位置和一个辅助去噪任务。GPS++在独立测试挑战PCQM4Mv2数据上获得0.0719平均绝对误差来证明了其有效性。通过Graphcore IPU加速以及4小时的推论预算下分配下,GPS++可以缩放到深度架构(16层),每个纪元3分钟的训练,以及大型集成(112个模型),在1小时32分钟内完成最终预测。

主要内容:

学术速运|GPS++:用于分子性质预测的优化混合MPNN/Transformer_第2张图片

-------------------------------------------

来自公众号DrugPython分享

欢迎关注点赞收藏转发!

下次见!

你可能感兴趣的:(学术速运,深度学习,人工智能)