PYTORCH 官方文档，开发文档，Python编程 人工智能 深度机器学习

PYTORCH文档

PyTorch documentation — PyTorch master documentation

PyTorch是一个使用GPU和CPU进行深度学习的优化张量库。

本文档中描述的功能按版本状态分类:

稳定:这些功能将被长期维护，并且在文档中通常不应该有重大的性能限制或缺口。我们还希望保持向后兼容性(虽然突破性的变化可能会发生，通知将提前一个版本)。

测试版:这些功能被标记为测试版，因为API可能会根据用户反馈而改变，因为性能需要改进，或者因为跨运营商的覆盖范围尚未完成。对于测试版特性，我们承诺将该特性进行稳定分类。然而，我们并不承诺向后兼容。

原型:这些特性通常不作为PyPI或Conda等二进制发行版的一部分提供，除了有时在运行时标志后面，并且处于反馈和测试的早期阶段。

社区

• PyTorch治理|构建+ CI
• PyTorch投稿指南
• PyTorch设计哲学
• PyTorch治理|机制
• PyTorch治理|维护者

开发者笔记

• CUDA自动混合精度示例
• 亲笔签名的力学
• 广播语义学
• CPU线程和TorchScript推断
• CUDA语义
• 分布式数据并行
• 扩展PyTorch
• 用亲笔签名扩展torch.func。功能
• 常见问题
• Gradcheck力学
• HIP (ROCm)语义
• 适用于大规模部署的功能
• 模块
• MPS后端
• 多重处理最佳实践
• 数字准确度
• 再现性
• 序列化语义
• Windows常见问题

火炬.编译

• 火炬.编译
• 入门指南
• PyTorch 2.0故障排除
• 常见问题
• 技术概述
• 防护装置概述
• 自定义后端
• 火炬动力更深的潜水
• 国税局

语言绑定

• C++
• Javadoc
• 火炬::部署

Python API

• 火炬
  • 张量
  • 发电机
  • 随机抽样
  • 序列化
  • 平行
  • 局部禁用梯度计算
  • 数学运算
  • 公用事业
  • 符号数字
  • 最佳化
  • 操作员标签
  • 发动机布置
• torch.nn
  • 参数
  • 未初始化参数
  • 未初始化缓冲区
  • 容器
  • 卷积层
  • 池层
  • 填充层
  • 非线性激活(加权和、非线性)
  • 非线性激活(其他)
  • 标准化图层
  • 循环层
  • 变压器层
  • 线性图层
  • 脱落层
  • 稀疏层
  • 距离函数
  • 损失函数
  • 视觉层
  • 无序播放图层
  • 数据并行层(多GPU、分布式)
  • 公用事业
  • 量化函数
  • 惰性模块初始化
• 火炬. nn .功能
  • 卷积函数
  • 池功能
  • 注意机制
  • 非线性激活函数
  • 线性函数
  • 压差函数
  • 稀疏函数
  • 距离函数
  • 损失函数
  • 视觉功能
  • 数据并行功能(多GPU、分布式)
• 火炬。张量
  • 数据类型
  • 初始化和基本操作
  • 张量类引用
• 张量属性
  • torch.dtype
  • 手电筒.设备
  • 火炬.布局
  • 火炬.记忆_格式
• 张量视图
• 手电筒
  • 自动铸造
  • 梯度缩放
  • 自动预测工序参考
• 火炬，亲笔签名
  • 火炬，亲笔签名，向后
  • 火炬，亲笔签名，毕业生
  • 正向模式自动微分
  • 功能性高级API
  • 局部禁用梯度计算
  • 默认渐变布局
  • 张量的就地运算
  • 变量(已弃用)
  • 张量自动签名函数
  • 功能
  • 上下文方法混合
  • 数字梯度检验
  • 仿形铣床
  • 异常检测
  • 亲笔签名的图表
• 火炬.图书馆
• 火炬. cuda
  • 流上下文
  • torch . cuda . can _设备_访问_对等
  • torch.cuda.current_blas_handle
  • 火炬. cuda.current_device
  • 火炬. cuda.current_stream
  • 火炬. cuda.default_stream
  • 设备
  • 火炬. cuda .设备_计数
  • 设备_of
  • torch.cuda.get_arch_list
  • torch . cuda . get _ device _ capacity
  • torch.cuda.get_device_name
  • torch . cuda . get _设备_属性
  • torch.cuda.get_gencode_flags
  • 火炬. cuda.get_sync_debug_mode
  • 火炬. cuda.init
  • torch . cuda . IPC _收集
  • torch . cuda . is _可用
  • torch.cuda.is_initialized
  • torch.cuda.memory _ usage用法
  • torch . cuda . set _设备
  • torch.cuda.set_stream
  • 火炬. cuda.set_sync_debug_mode
  • 火炬. cuda.stream
  • torch.cuda.synchronize
  • 火炬. cuda .利用
  • 火炬. cuda .温度
  • torch.cuda.power_draw
  • 火炬. cuda.clock_rate
  • torch . cuda . out of memory错误
  • 随机数发生器
  • 通信集体
  • 流和事件
  • 图表(测试版)
  • 内存管理
  • NVIDIA工具扩展(NVTX)
  • Jiterator (beta)
  • 蒸汽消毒剂(原型)
• 火炬. mps
  • torch.mps.synchronize
  • torch.mps.get_rng_state
  • torch.mps.set_rng_state
  • torch.mps.manual_seed
  • 火炬. mps.seed
  • torch.mps.empty_cache
  • 火炬. MPs . set _ per _ process _ memory _ fraction
  • torch . MPs . current _ allocated _内存
  • torch . MPs . driver _ allocated _内存
• 火炬.后端
  • 火炬.后端. cuda
  • 火炬.后端. cudnn
  • torch.backends.mps
  • torch.backends.mkl
  • torch.backends.mkldnn
  • torch.backends.openmp
  • torch.backends.opt_einsum
  • 火炬.后端.至强
• 火炬.分布式
  • 后端
  • 基础
  • 初始化
  • 初始化后
  • 分布式键值存储
  • 组
  • 点对点通信
  • 同步和异步集合操作
  • 集体职能
  • 剖析集体交流
  • 多GPU集合函数
  • 第三方后端
  • 启动实用程序
  • 产卵工具
  • 排除故障torch.distributed应用程序
  • 伐木
• 火炬.分布式.算法.加入
• 火炬.分布式.弹性
  • 开始
  • 证明文件
• 火炬.分布式. fsdp
• 火炬.分布式. optim
• 火炬.分布式.张量.并行
• 火炬.分布式.检查点
• 火炬.分发
  • 得分函数
  • 路径导数
  • 分配
  • 指数族
  • 伯努利
  • 贝塔
  • 二项式
  • 绝对的
  • 柯西
  • Chi2
  • 连续伯努利
  • 狄利克雷的
  • 指数的
  • 渔民协会
  • 微克
  • 几何学的
  • 冈贝尔
  • 哈夫柯西
  • 半正常
  • 自主的
  • 库马拉斯瓦米
  • LKJCholesky
  • 拉普拉斯（侯爵）
  • 对数正态的
  • LowRankMultivariateNormal
  • mixture同一个家庭
  • 多项式
  • 多元常态
  • 消极经济
  • 常态
  • OneHotCategorical
  • 帕累托理论及方法的
  • 泊松
  • 松弛的伯努利
  • LogitRelaxedBernoulli
  • 松弛的
  • 学生t
  • 变形分布
  • 制服
  • 冯米斯
  • （统计学家）威伯尔（或韦布尔）
  • 威沙特
  • KL散度
  • 转换
  • 限制
  • 约束注册表
• 火炬。_发电机
• torch.fft
  • 快速傅立叶变换
  • 助手功能
• 火炬.功能
  • 什么是可组合函数转换？
  • 为什么是可组合函数转换？
  • 阅读更多
• 火炬未来
• torch.fx
  • 概观
  • 编写转换
  • 排除故障
  • 符号追踪的局限性
  • API参考
• 火炬中心
  • 发布模型
  • 从中心加载模型
• torch.jit
  • TorchScript语言参考
  • 创建TorchScript代码
  • 混合跟踪和脚本
  • 火炬文字语言
  • 内置函数和模块
  • 排除故障
  • 常见问题
  • 已知问题
  • 附录
• torch.linalg
  • 矩阵属性
  • 分解
  • 解决者（solver的复数形式）
  • 逆序
  • 矩阵函数
  • 矩阵产品
  • 张量运算
  • 混杂的
  • 实验功能
• 火炬.监视器
  • API参考
• 火炬信号
  • 手电筒.信号.窗户
• 火炬.特别
  • 功能
• 火炬.覆盖
  • 功能
• 火炬.包装
  • 教程
  • 我如何…
  • 说明
  • API参考
• torch.profiler
  • 概观
  • API参考
  • 英特尔仪器与跟踪技术API
• 火炬. nn.init
• torch.onnx
  • 例如:从PyTorch到ONNX的AlexNet
  • 跟踪与脚本
  • 避免陷阱
  • 限制
  • 添加对操作员的支持
  • 常见问题
  • 贡献/发展
  • 功能
  • 班级
  • 预览:torch.onnx TorchDynamo导出器
• torch.onnx诊断
  • 概观
  • 诊断规则
  • API参考
• 火炬. optim
  • 如何使用优化器
  • 基础类
  • 算法
  • 如何调整学习速度
  • 随机加权平均
• 复数
  • 创建复杂张量
  • 从旧的表示法过渡
  • 访问真实图像和图像
  • 角度和abs
  • 线性代数
  • 序列化
  • 亲笔签名
• DDP通信挂钩
  • 如何使用通信挂钩？
  • 一个通信钩子是如何工作的？
  • 默认通信挂钩
  • PowerSGD通信挂钩
  • 调试通信挂钩
  • 通信挂钩的检查点
  • 承认
• 流水线并行性
  • 使用多个GPU模拟并行性
  • 流水线执行
  • PyTorch中的管道API
  • 教程
  • 承认
• 量化
  • 量子化介绍
  • 量化API摘要
  • 量化堆栈
  • 量化支持矩阵
  • 量化API参考
  • 量化后端配置
  • 量化精度调试
  • 量化定制
  • 最佳实践
  • 常见问题
  • 常见错误
• 分布式RPC框架
  • 基础
  • 位置遥控(remote position control)
  • RRef
  • 远程模块
  • 分布式自动签名框架
  • 分布式优化器
  • 设计笔记
  • 教程
• 火炬.随机
• 火炬，蒙面
  • 介绍
  • 支持的运算符
• 火炬.嵌套
  • 介绍
  • 建筑
  • 大小
  • 解放
  • 嵌套张量构造函数和转换函数
  • 支持的操作
• 火炬。稀疏
  • 为什么以及何时使用稀疏度
  • 功能概述
  • 操作员概述
  • 稀疏首席运营官张量
  • 稀疏压缩张量
  • 支持的操作
• 火炬。储存；储备
• 火炬测试
• torch.utils .基准
• torch.utils .瓶颈
• torch.utils.checkpoint
• torch.utils.cpp_extension
• torch.utils.data
  • 数据集类型
  • 数据加载顺序和Sampler
  • 加载批处理和非批处理数据
  • 单进程和多进程数据加载
  • 内存锁定
• torch.utils.jit
• torch.utils.dlpack
• torch.utils.mobile_optimizer
• torch.utils.model_zoo
• torch.utils.tensorboard
• 类型信息
  • torch.finfo
  • torch.iinfo
• 名为张量
  • 创建命名张量
  • 命名维度
  • 名称传播语义
  • 按名称显式对齐
  • 操纵尺寸
  • 亲笔签名的支持
  • 当前支持的操作和子系统
  • 命名张量API参考
• 命名张量算子覆盖
  • 保留输入名称
  • 删除维度
  • 统一输入的名称
  • 允许尺寸
  • 合同使人变得暗淡
  • 工厂功能
  • 外部函数和就地变量
• 火炬。__配置_ _

图书馆

• 火炬报
• 火炬数据
• 托尔切克
• 火炬服务
• 火炬报
• 火炬视觉
• XLA设备上的PyTorch

索引和表格

• 索引