VITGAN

第四十八周周报

学习目标：修改ViTGAN学习内容：位置编码和多尺度学习时间：8.5-8。

童、一·2024-01-20 22:50

第二十八周周报

学习目标：ViTGAN代码、车牌识别接口学习时间：3.10-3.17学习产出：一、ViTGAN代码上周改的ViTGAN版本Bug有点多，这周一直在改Bug，现在进度卡在这个Bug。

童、一·2024-01-20 22:49

第六十四周周报

实验整理了以前的实验数据，重新看了一下ViTGAN的实验细节，打算在高分辨率上尝试一下论文中的细节（论文的代码是基于tensorflow，官方给的代码是pytorch，README中的实现细节与论文有些不一样

童、一·2023-12-04 04:18

第四十六周周报

学习目标：修改ViTGAN代码学习内容：1、傅里叶特征2、位置编码学习时间：7.22-7.28学习产出：一、傅里叶特征根据StyleGAN3，将ViTGAN第一个TransformerBlock的输入从仿射变换

童、一·2023-11-26 14:59

第六十二周周报

实验二、论文学习时间：2023.11.11-2023.11.17学习产出：实验1、CB模块实验效果出来了，加上去效果不太行，后续实验考虑是否将CB模块换到其他地方2、CiFAR100实验已完成，效果比ViTGAN

童、一·2023-11-26 14:59

第三十六周周报

学习目标：一、DG代码二、改小ViTGAN模型训练时间学习时间：5.6-5.12学习产出：一、阅读DG模型源码看完了DG模型的源码，想尝试使用随机微分方程代替现在ViTGAN的加噪过程。

童、一·2023-11-26 14:29

第六十一周周报

学习目标：代码实验论文学习时间：2023.11.4-2023.11.10学习产出：代码1、修改CelebA64数据集的代码，实验暂时没跑完2、添加CB模块，实验暂时没跑完3、修改ViTGAN的CIPSGenerator

童、一·2023-11-12 01:39

Transformer做文本生成图像的调查研究笔记

2）保存GAN的模型，仅仅替换他生成图像时用的卷积和池化过程，VitGAN（Vit：VisualTransformer）。3）不保留GAN的结构，直接全用transformer做。

中杯可乐多加冰·2023-10-31 04:37

论文笔记：ViTGAN: Training GANs with Vision Transformers

20211intro论文研究的问题是：ViT是否可以在不使用卷积或池化的情况下完成图像生成任务即不用CNN，而使用ViT来完成图像生成任务将ViT架构集成到GAN中，发现现有的GAN正则化方法与self-attention机制的交互很差，导致训练过程中严重的不稳定——>引入了新的正则化技术来训练带有ViT的GANViTGAN模型远优于基于Transformer的GAN模型，在不使用卷积或池化的情况

UQI-LIUWJ·2023-09-26 20:16

第十三周周报

学习目标：一、论文：VectorQuantizedDiffusionModelforText-to-ImageSynthesis二、修改VITGAN代码学习内容：论文学习时间：11.28-12.2学习产出

童、一·2022-12-11 15:54

谷歌ViTGAN | 视觉Transformer训练的GAN

加州大学圣地亚哥分校联合谷歌进行研究：用视觉Transformer训练GAN，结果表明，ViTGAN性能可以与卷积GAN媲美。

机器学习与AI生成创作·2022-12-02 14:06

第九周周报

学习目标：ViTGAN代码吴恩达深度学习学习内容：GANDCGANViTGANNLP学习时间：10.31-11.4学习产出：一、GAN了解了GAN的网络结构并编写代码'''数据准备'''transform

童、一·2022-11-12 11:49

第八周周报

学习目标：ViTGAN论文吴恩达深度学习视频学习内容：VisionTransformer论文ViTGAN论文深度学习中的卷积神经网络学习时间：10.24-10.28学习产出：一、VisionTransformer1

童、一·2022-11-12 11:19

【人工智能笔记】第三十四节：TF2实现VITGAN对抗生成网络，PositionalEmbedding 实现

该章节介绍VITGAN对抗生成网络中，PositionalEmbedding部分的代码实现。

PPHT-H·2022-05-31 07:42

【读点论文】ViTGAN: Training GANs with Vision Transformers 将视觉transformer和gan结合起来

ViTGAN:TrainingGANswithVisionTransformersAbstract最近，VisionTransformers(vits)在图像识别方面表现出了具有竞争力的性能，需要较少的视觉特定的归纳偏差

羞儿·2022-05-04 07:42

ViTGAN: Training GANs with Vision Transformers阅读笔记

Task图像的生成Keyidea利用transformer作为基本的计算单元，替代传统的CNN，同时基于GAN的基础架构，去完成图像的生成任务。面对的问题：(1)GAN的正则化方法与注意力机制的交互很差，导致训练中稳定性不足(2)在鉴别器训练的后期，对抗训练经常受到高方差梯度（或尖峰梯度）的阻碍。高方差梯度会在训练的时候导致震荡，非常影响训练的效果。解决的方法：(1)在判别器中，研究者重新审视了自

莫问前程学无止境·2022-05-04 07:15

ViTGAN：用视觉Transformer训练生成性对抗网络 Training GANs with Vision Transformers

目录一、原文摘要二、为什么提出ViTGAN？

中杯可乐多加冰·2022-05-04 07:07

推荐频道