【pytorch】学习系列文章

系列文章目录

提示:记录pytorch学习过程中的困惑
第一章 Pytorch add 和 concat的区别


文章目录

  • 系列文章目录
    • @[TOC](文章目录)
  • 前言
  • 一、Pytorch的add 和 concat?

前言

此文章不是官方文档,主要记录学习过程中的困惑


提示:以下是本篇文章正文内容,下面案例可供参考

一、Pytorch的add 和 concat?

在resnet和ShuffleNet的shortcut,有的是用add,有的用concat! 在shuffleNet中stride = 1的用add,stride=2的用concat!

1、Concat:张量拼接,会扩充两个张量的维度,
【pytorch】学习系列文章_第1张图片

例如2626256和2626512两个张量拼接,结果是2626768。
2、add:张量相加,张量直接相加,不会扩充维度。
【pytorch】学习系列文章_第2张图片
例如104104128和104104128相加,结果还是104104128。add和cfg文件中的shortcut功能一样。

你可能感兴趣的:(pytorch,学习,深度学习)