GNN论文学习第7页

PixelSNAIL论文代码学习（3）——自注意力机制的实现

模块实现注意力模块实现代码完整实现代码使用pytorch实现因果注意力模块causal_atttention模块问题总结引用引言阅读了pixelSNAIL,很简短，就用了几页，介绍了网络结构，介绍了试验效果就没有了，具体论文学习链接这段时间看他的代码

客院载论·2023-09-03 20:55

基础论文学习（6）——BeiT

BEiT是把BERT模型成功用在image领域的首创，也是一种自监督训练的形式，所以取名为视觉Transformer的BERT预训练模型。这个工作用一种巧妙的办法把BERT的训练思想成功用在了image任务中。BERT：Bidiractional(双向)EncoderRepresentationsfromTransformersSSL自监督学习：机器学习分为有监督学习，无监督学习和强化学习，Sel

Yuezero_·2023-09-03 01:53

ice-ba论文学习

最近百度开源了个slam系统ice-ba，测试发现性能强大，代码方面工程优化做了很多，总的来说前端使用了光流，后端正是论文提出上的增量式BA了。这个增量式的ice-BA主要分为三个部分，全局BA，局部BA以及relative-marg，前两者采用了增量式方法提升了后端速度，后者保证了local-BA和global-BA的一致性对精度有所贡献。GlobalBA论文最先提及的是他们先前已经在Robus

范帝楷·2023-08-31 00:19

YOLO-MS: Rethinking Multi-Scale Representation Learning for Real-time Object Detection(论文学习笔记)

性能超越YOLOv8与RTMDet，即插即用论文地址：https://arxiv.org/pdf/2308.05480.pdf代码地址：文中给了github地址，但是暂时打不开（2023.08.15）摘要作者旨在为目标检测社区提供一种高效且性能卓越的目标检测器，称为YOLO-MS。核心设计基于一系列对不同Kernel-Size卷积如何影响不同尺度上目标检测性能的研究。研究结果是一种可以显著增强实时

athrunsunny·2023-08-30 21:45

会议交流 | 图与推荐前沿实践探索

转载公众号|DataFun近几年，图神经网络（GNN）技术在推荐系统中得到了广泛的应用，因为推荐系统中的大部分信息本质上都具有图结构，而GNN在图表示学习方面具有优势。

开放知识图谱·2023-08-29 17:56

ICLR2023 | Mole-BERT: 对分子GNN预训练的反思

原文标题：MOLE-BERT:RETHINKINGPRE-TRAININGGRAPHNEURALNETWORKSFORMOLECULES原文链接：Mole-BERT:RethinkingPre-trainingGraphNeuralNetworksforMolecules|OpenReviewhttps://github.com/junxia97/Mole-BERT一、IntroductionAt

羊飘·2023-08-29 06:47

uncle_ll·2023-08-27 15:38

GNN学习笔记

GNN持续更新实践程序放在了虚拟机里conda中NS环境里了b站课程跳转------->>>>>【不愧是公认最好的【图神经网络GNN/GCN教程】，从基础到进阶再到实战，一个合集全部到位！

菜菜小堡·2023-08-27 08:27

[论文阅读笔记25]A Comprehensive Survey on Graph Neural Networks

这是一篇GNN的综述,发表于2021年的TNNLS.这篇博客旨在对GNN的基本概念做一些记录.论文地址:论文1.引言,背景与定义对于图像数据来说,CNN具有平移不变性和局部连接性,因此可以在欧氏空间上良好地学习

wjpwjpwjp0831·2023-08-27 07:24

CUDA+CUDNN+torch+torchvision安装

JYWsuperman·2023-08-26 22:06

图神经网络与分子表征：1. 分子图和图神经网络基础

近期读了很多图神经网络（GNN）和分子表征（molecularrepresentation）的论文，正好最近不是很忙，所以我决定把自己的学习过程记录下来，与大家共勉。

frank_haha·2023-08-26 21:33

图神经网络与分子表征：番外——基组选择

部分研究人员借用高斯中的一系列基组去包装输入几何信息（距离、角度和二面角），这样做一方面提高了GNN的可解释性，另一方面也实实在在的提高了模型精度。

frank_haha·2023-08-26 21:31

理解图傅里叶变换和图卷积

图神经网络（GNN）代表了一类强大的深度神经网络架构。在一个日益互联的世界里，因为信息的联通性，大部分的信息可以被建模为图。例如，化合物中的原子是节点，它们之间的键是边。

·2023-08-26 10:11

基础论文学习（5）——MAE

MAE：MaskedAutoencodersAreScalableVisionLearnersSelf-SupervisedLearningstep1：先用无标签数据集，把参数从一张白纸训练到初步预训练模型，可以得到数据的VisualRepresentationstep2：再从初步成型，根据你下游任务DownstreamTasks的不同去用带标签的数据集把参数训练到完全成型。注意这是2个阶段。第一

Yuezero_·2023-08-26 07:51

论文学习——A Proposal For Foley Sound Synthesis Challenge（如何开发出一个完整的FoleySound系统）

文章目录引言正文AbstractIntroduction问题2CaseStudy：ResearchChallenges3BackGrounds背景3.1PreviousWorksonFoleySoundSynthesis重点！！之前关于伪声合成的相关研究问题3.2ExistingDataset现存数据集4.FoleySoundSynthesisChallenge伪声合成系统的开发难点4.1Cons

客院载论·2023-08-26 06:57

【论文学习】Distortion Agnostic Deep Watermarking

一、前言论文链接：DistortionAgnosticDeepWatermarking论文主要内容：该文献提出了一种失真不可知的鲁棒水印模型，以解决现有DNN鲁棒水印方法的局限性。现有的DNN鲁棒水印方法，通常是在训练阶段将各类失真（例如JPEG压缩、高斯噪声、裁剪等…）纳入端到端网络中的噪声层，进行鲁棒训练，以获得抵抗攻击的鲁棒性。但在实际传输中，水印图像可能面临不同强度和类型的破坏与攻击，无法

小敏同学·2023-08-25 02:39

什么是神经网络

CNN、RNN、GNN，这么多的神经网络，有什么区别和联系？

Runjavago·2023-08-23 21:53

论文学习——FOLEY SOUND SYNTHESIS AT THE DCASE 2023 CHALLENGE（声音生成介绍）

文章目录引言正文AbstractIntroduction问题2ProblemAndTaskDefinition3.OfficialDatasetAndBaseline第一部分问题4.Evaluation问题4.1Step1：ObjectiveEvaluation问题4.2Step2:SubjectiveEvaluation问题4.3Execution（非重点）5Results6Conclusion

客院载论·2023-08-23 02:23

基础论文学习（2）——DETR

目标检测DETR：End-to-EndDetectionwithTransformerdetr是facebook提出的引入transformer到目标检测领域的算法，效果很好，做法也很简单，相较于RCNN和YOLO系列算法，避免了Proposal/Anchor+NMS的复杂流程。1.detr基本架构对于目标检测任务，其要求输出给定图片中所有前景物体的类别和bbox坐标，该任务实际上是无序集合预测问

Yuezero_·2023-08-22 10:52

基础论文学习（4）——CLIP

《LearningTransferableVisualModelsFromNaturalLanguageSupervision》CLIP的英文全称是ContrastiveLanguage-ImagePre-training，即一种基于对比文本-图像对的预训练模型。CLIP是一种基于对比学习的多模态模型，与CV中的一些对比学习方法如moco和simclr不同的是，CLIP的训练数据是文本-图像对：一

Yuezero_·2023-08-22 10:52

基础论文学习（1）——ViT

VisionTransformer（ViT）模型架构是在ICLR2021上作为会议论文发表的一篇研究论文中介绍的，题为“AnImageisWorth16*16Words:TransformersforImageRecognitionatScale”。它由NeilHoulsby，AlexeyDosovitskiy和Google研究大脑团队的另外10位作者开发和出版。调整代码和预先训练的ViT模型可以

Yuezero_·2023-08-22 10:21

基础论文学习（3）——SwinTransformer

目前Transformer应用到图像领域的挑战：图像分辨率高，像素点多，如果需要更多特征就必须构建很长的序列，但Transformer基于全局自注意力的计算导致计算量较大，能否用窗口+分层的形式代替长序列，实现类似CNN感受野的效果？针对上述问题，我们提出了一种包含滑窗操作，具有层级设计的SwinTransformer，逐层合并tokens。其中滑窗操作包括不重叠的localwindow+重叠的c

Yuezero_·2023-08-22 10:14

青源Talk第42期丨图机器学习-2023 年（时隔两年魏老师第二次讲GNN）

观看和转载地址：https://event.baai.ac.cn/live/696时间：2023年08月02日10:00-12:00地点：线上主办方：北京智源人工智能研究院“青源Talk”第42期将于2023年8月2日（星期三）10:00-12:00召开，邀请了中国人民大学高瓴人工智能学院教授魏哲巍进行分享。本期的主持人为北京航空航天大学副教授王啸，将在报告结束后与讲者魏哲巍展开对话，敬请期待，欢

五阿哥爱跳舞·2023-08-22 07:25

基于关系有向图的知识推理2022ACM 8.9+8.10(8.11考了一天科三)+8.12

露葵025·2023-08-21 05:49

GNN for Communication Networks最新论文-2023年7月

2023年开始的一个新系列，主要是整理最新发表的GraphNeuralNetworksforCommunicationNetworks(GNN4COMM)相关的最新文献，按月更新。

猴子2333·2023-08-20 16:25

Task04：数据完整存储与内存的数据集类+节点预测与边预测任务实践

Datawhale提供的课程链接：https://github.com/datawhalechina/team-learning-nlp/blob/master/GNN一、数据完全存于内存的数据集类对于占用内存有限的数据集

从你美丽的流域·2023-08-20 16:51

图神经网络 GNN

研究人员已经开发了能够处理图形数据的神经网络（称为图神经网络或GNN）超过十年。最近的发展增强了它们的能力和表达能力。图神经网络开始在诸如抗菌发现、虚假新闻检测、交通

自闭自闭自闭了·2023-08-20 15:05

图神经网络（GNN）

近年来，图神经网络（GNN）领域取得了快速和难以置信的进展，图神经网络又被称为图深度学习、图表示学习，已经成为机器学习特别是深度学习领域发展最快的研究课题之一。

带我去滑雪·2023-08-20 15:04

机器学习：图神经网络GNN学习笔记

一、面向对象：非欧式数据传统的机器学习所用到的数据是欧氏空间（EuclideanDomain）的数据，欧氏空间下的数据最显著的特征就是有着规则的空间结构，比如图片是规则的正方形栅格，语音数据是一维序列，这些数据能够通过一维或二维的矩阵进行表示。但是，在现实生活中许多数据都是不具备规则的空间结构，即是非欧氏空间下的数据，如电子交易、推荐系统等抽象出来的图谱，图谱中每个节点与其他节点的连接不是固定的。

鱼仔泡泡糖·2023-08-20 15:32

【机器学习】— 2 图神经网络GNN

一、说明在本文中，我们探讨了图神经网络（GNN）在推荐系统中的潜力，强调了它们相对于传统矩阵完成方法的优势。GNN为利用图论来改进推荐系统提供了一个强大的框架。

无水先生·2023-08-20 15:31

图像去雨、去雪、去雾论文学习记录

All_in_One_Bad_Weather_Removal_Using_Architectural_Search这篇论文发表于CVPR2020，提出一种可以应对多种恶劣天气的去噪模型，可以同时进行去雨、去雪、去雾操作。但该部分代码似乎没有开源。提出的问题：当下的模型只能针对一种恶劣天气进行处理，无法适用于多种复杂恶劣天气目前的去噪数据集都是人为制作的，与真实数据具有差异。创新点1：多合一去噪模型

彭祥.·2023-08-20 02:00

简介

GNN分类：图片来自：AComprehensiveSurveyonGraphNeuralNetworks

魏清宇·2023-08-17 08:33

【KD】2023 ICML Linkless Link Prediction via Relational Distillation

1、简介图神经网络（GNN）有很强的链接预测能力，但是其计算依赖于对邻居节点知识的聚合，因此导致其在实际应用中往往有较高的延迟。

静静喜欢大白·2023-08-17 01:53

《Rethinking the Expressive Power of GNNs via Graph Biconnectivity》阅读笔记

一.文章概述现如今存在许多工作探索GNN的表达能力，然而对于其中大多数方法，仍然缺乏对它们可以系统地和可证明地获取哪些额外表达力的深刻理解。

斯曦巍峨·2023-08-16 11:08

预训练GNN：GPT-GNN Generative Pre-Training of Graph Neural Networks

一.文章概述本文提出了一种自监督属性图生成任务来预训练GNN，使得其能捕图的结构和语义属性。

斯曦巍峨·2023-08-16 11:36

李宏毅机器学习|图神经网络Graph Nerual Networks(GNN)|学习笔记

文章目录前言1Introduction2Roadmap3Spatial-basedGNNNN4G(NeuralNetworksforGraph)DCNN(Diffusion-ConvolutionNeuralNetwork)MoNET(MixtureModelNetworks)GAT(GraphAttentionNetworks)GIN(GraphIsomorphismNetwork)总结前言最近

亨少德小迷弟·2023-08-14 01:49

【综述笔记】Graph Neural Networks in Recommender Systems

zenRRan·2023-08-14 01:48

机器学习之New Optimizers for Deep Learning 2（没听懂的读书笔记）

GNN用途（1）Classification 假设现在有一大堆不同的分子，训练出一个Classifier可以判断分子会不会突变，dataset就是很多label好的data然后输入一个分类器没有看过的分子

L_cherry_·2023-08-14 01:46

深度学习（36）—— 图神经网络GNN（1）

深度学习（36）——图神经网络GNN（1）这个系列的所有代码我都会放在git上，欢迎造访文章目录深度学习（36）——图神经网络GNN（1）1.基础知识2.使用场景3.图卷积神经网络GCN（1）基本思想4

柚子味的羊·2023-08-13 17:31

深度学习（37）—— 图神经网络GNN（2）

深度学习（37）——图神经网络GNN（2）这一期主要是一些简单示例，针对不同的情况，使用的数据都是torch_geometric的内置数据集文章目录深度学习（37）——图神经网络GNN（2）1.一个graph

柚子味的羊·2023-08-13 07:50

pytorch学习笔记-----Resnet 残差网络论文学习

发现问题：深层网络训练的效果反而不如浅层网络效果解决办法：一方面更深卷积，另一方面要对未卷积之前的进行映射（个人理解即相当于未进网络的图片分成两条路一条走网络，一条直接拿过来，可以通过训练对两条路的训练效果进行比较调整比重，保证训练的结果至少不比未经网络之前的差）Resnet网络中体现：每个模块都要相上述方法两条路进网络，对于特征图数不同的，我们可以进行卷积操作来增加特征图数量（要求：两条路最终输

cvks·2023-08-13 06:55

论文学习21“Semi-supervised Segmentation of Optic Cup in Retinal Fundus Images Using Variational Autoe...

这是我入AI读的第一篇paper，很简单却很经典的思路。1.题目：Semi-supervisedSegmentationofOpticCupinRetinalFundusImagesUsingVariationalAutoencoder（使用VAE对视网膜光学杯进行半监督分割）2.Paper来源：MICCAI2017；作者，IBM实验室。3.背景：这篇文章是对视杯进行分割，对于青光眼等疾病中，杯盘

Carrie_Hou·2023-08-12 00:37

2019-3-5晨间日记

周目标·完成进度写毕设，论文学习·信息·阅读坚持阅读健康·饮食·锻炼一天只有一餐人际·家人·朋友和舍友改毕设工作·思考最美好的三件事1.睡觉2.吃饭3.看手机思考·创意·未来图片发自App

娜样阳光美丽·2023-08-11 12:44

boost_then_convolve_gradient_b

当GBDT遇上GNN，故事会怎样发生一、写在前面emmm这其实是一篇ICLR2021的论文的阅读笔记，原文见：https://arxiv.org/abs/2101.08543如果你曾经思考过以下几点中的任意一点

6eacc1c2d2bd·2023-08-11 01:11

GNN论文周报|来自慕尼黑工业大学、密歇根大学、香港科技大学等机构前沿论文研究...

以下内容来源于AMiner科技图神经网络（GNN）是一类专门针对图结构数据的神经网络模型，在社交网络分析、知识图谱等领域中取得了不错的效果。

AITIME论道·2023-08-10 08:49

【图神经网络】邻居采样算法

可以参考下面的文献参考文献[1]dgl.sampling.sample_neighbors[2]graphSAGE-pytorch/src/dataCenter.py[3]PyG教程(3)：邻居采样[4]shaDow-GNN

一穷二白到年薪百万·2023-08-09 01:56

论文阅读：Vulnerability Detection with Graph Simplification and Enhanced Graph Representation Learning

基于变量的图简化2、增强型图表征学习（1）与边有关的图卷积模块（2）Kernel-scaled表征模块四、实验1、研究问题2、实验数据集信息3、实施细节4、主要实验结果一、论文相关信息二、摘要1、现有研究的不足GNN

PT_silver·2023-08-08 08:37

GNN4EDA综述｜电子设计自动化与图神经网络理论及应用

本文为「AComprehensiveSurveyonElectronicDesignAutomationandGraphNeuralNetworks:TheoryandApplications」阅读笔记，补充了部分应用（如linkprediction用于reverseengineering）。部分词汇（术语？）由于我背景知识&英语水平有限，保留英语原文，防止跑偏。pdf摘要遵从摩尔定律，芯片设计的

电车上那个cll呀·2023-08-05 11:56

GNN+RA 文献阅读-- GNN对RA的建模

简述：主要是几篇如何利用GNN对资源分配进行建模的paper，【1】【2】都是对无线链路建模，【3】比较有参考性，【4】偏于RL，对GNN表述模糊。

qq_38480311·2023-08-02 11:36

GNN的一篇入门：A Gentle Introduction to Graph Neural Networks

原文链接AGentleIntroductiontoGraphNeuralNetworks(distill.pub)https://distill.pub/2021/gnn-intro/内容简介：本文是“