深度学习框架

一.TensorFlow

1.TensorFlow简介

TensorFlow是一个基于数据流编程（dataflow programming）的符号数学系统，被广泛应用于各类机器学习（machine learning）算法的编程实现，其前身是谷歌的神经网络算法库DistBelief 。

Tensorflow拥有多层级结构，可部署于各类服务器、PC终端和网页并支持GPU和TPU高性能数值计算，被广泛应用于谷歌内部的产品开发和各领域的科学研究   。

TensorFlow由谷歌人工智能团队谷歌大脑（Google Brain）开发和维护，拥有包括TensorFlow Hub、TensorFlow Lite、TensorFlow Research Cloud在内的多个项目以及各类应用程序接口（Application Programming Interface, API） [2]  。自2015年11月9日起，TensorFlow依据阿帕奇授权协议（Apache 2.0 open source license）开放源代码  。

2.Tensorflow安装(【教程】最新傻瓜式安装 TensorFlow！看完就懂 入门机器学习！加长版寒假一起来学习吧！_哔哩哔哩_bilibili时效最高的从anaconda安装到tensorflow安装的傻瓜式教程。最后运行一个简单的机器学习例子入门！看完这个视频你可能会感觉自己会PYTHON了会机器学习了！, 视频播放量 51761、弹幕量 117、点赞数 729、投硬币枚数 561、收藏人数 1016、转发人数 341, 视频作者 ResearchNote, 作者简介 用于记录我的科研。如果对你有帮助我很荣幸。如果对你没帮助，别凶我。，相关视频：【傻瓜式安装TensorFlow2.0】看完就懂 学不会你打我！ TensorFlow2.0极简安装教程 快速入门，非常简单的Tensorflow安装（适用于最新版），【超详细教程】最新傻瓜式安装TensorFlow！看完就懂入门机器学习，小白都会的tensorflow-GPU-2.4.0安装详细教程，TensorFlow-GPU版本安装以及keras安装，卷起来！2022年B站最全最清晰的Tensorflow教程！全86讲！tensorflow安装/tensorflow2.0/计算机视觉/神经网络与深度学习，TensorFlow超极简安装——GPU版本的安装和测试，windows环境下安装tensorflow1.15_cpu版本和keras，最新 TensorFlow 2.8 极简安装教程之——有Nvidia显卡的Tensorflow GPU版本安装，不愧是圈内公认的顶级教程【Tensorflow2完整版】卷起来！学渣也能学会的Tensorflow安装（Tensorflow入门/深度学习入门/AI/神经网络）https://www.bilibili.com/video/BV1ja4y1t7Qj?spm_id_from=333.337.search-card.all.click)

TensorFlow支持多种客户端语言下的安装和运行。截至版本1.12.0，绑定完成并支持版本兼容运行的语言为C和Python，其它（试验性）绑定完成的语言为JavaScript、C++、Java、Go和Swift，依然处于开发阶段的包括C#、Haskell、Julia、Ruby、Rust和Scala  。

Python

TensorFlow提供Python语言下的四个不同版本：CPU版本（tensorflow）、包含GPU加速的版本（tensorflow-gpu），以及它们的每日编译版本（tf-nightly、tf-nightly-gpu）。TensorFlow的Python版本支持Ubuntu 16.04、Windows 7、macOS 10.12.6 Sierra、Raspbian 9.0及对应的更高版本，其中macOS版不包含GPU加速  。安装Python版TensorFlow可以使用模块管理工具pip/pip3 [7]  或anaconda并在终端直接运行。

pip install tensorflow
conda install -c conda-forge tensorflow

此外Python版TensorFlow也可以使用Docker安装:

docker pull tensorflow/tensorflow:latest
# 可用的tag包括latest、nightly、version等
# docker镜像文件：https://hub.docker.com/r/tensorflow/tensorflow/tags/
docker run -it -p 8888:8888 tensorflow/tensorflow:latest
# dock下运行jupyter notebook
docker run -it tensorflow/tensorflow bash
# 启用编译了tensorflow的bash环境

配置GPU

TensorFlow支持在Linux和Window系统下使用统一计算架构（Compute Unified Device Architecture, CUDA）高于3.5的NVIDIA GPU [10-11]  和ROCm [79-80]  。配置GPU时要求系统有NVIDIA GPU驱动384.x及以上版本、CUDA Toolkit和CUPTI（CUDA Profiling Tools Interface）9.0版本、cuDNN SDK7.2以上版本。可选配置包括NCCL 2.2用于多GPU支持、TensorRT 4.0用于TensorFlow模型优化  。

在Linux下配置GPU时，将CUDA Toolkit和CUPTI的路径加入$LD_LIBRARY_PATH环境变量即可。对于CUDA为3.0或其它版本的NVIDIA程序，需要从源文件编译TensorFlow 。对Windows下的GPU配置，需要将CUDA、CUPTI和cuDNN的安装路径加入%PATH%环境变量，在DOS终端有如下操作：

C:\> SET PATH=C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v9.0\bin;%PATH%
C:\> SET PATH=C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v9.0\extras\CUPTI\libx64;%PATH%
C:\> SET PATH=C:\tools\cuda\bin;%PATH%

Linux系统下使用docker安装的Python版TensorFlow也可配置GPU加速且无需CUDA Toolkit  ：

# 确认GPU状态
lspci | grep -i nvidia
# 导入GPU加速的TensorFlow镜像文件
docker pull tensorflow/tensorflow:latest-gpu
# 验证安装
docker run --runtime=nvidia --rm nvidia/cuda nvidia-smi
# 启用bash环境
docker run --runtime=nvidia -it tensorflow/tensorflow:latest-gpu bash

3.学习

Tensorflow2.0入门与实战 最通俗易懂的入门课程 极简TensorFlow入门_哔哩哔哩_bilibili2022年4月2日课程更新最新版本的TensorFlow极简安装。本课程是关于Tensorflow与深度学习实战的一门课程。本课程用通俗易懂的实例，系统讲解了Tensorflow2.0的使用，可以说是目前最新最系统的 Tensorflow 2.0 教程。本课程讲解Tensorflow中各种概念、操作和使用方法，针对Tensorflow的基础知识，在传统数据分析中应用进行详细讲解，并且给出了丰富的深, 视频播放量 586511、弹幕量 3779、点赞数 5863、投硬币枚数 4926、收藏人数 29947、转发人数 2323, 视频作者 人工智能课程, 作者简介 课程咨询QQ: 984595060，相关视频：【北京大学】Tensorflow2.0，【TensorFlow深度学习入门到实战】用129个小时终于把TensorFlow讲明了——绝对通俗易懂入门到实战！！，【最完整版】深度学习与TensorFlow2入门实战（附源码和课件），手把手教你构建垃圾分类系统-基于tensorflow2.3，草履虫都能学会！2022年B站最全最清晰的Tensorflow教程，详解深度学习框架，从入门到实战，手把手教学！CNN/tensorflow2.0/神经网络，卷起来！2022年B站最全最清晰的Tensorflow教程！全86讲！tensorflow安装/tensorflow2.0/计算机视觉/神经网络与深度学习，弱鸡才用tensorflow，强者一个numpy就够：从零开始神经网络第一期，【5天搞定TensorFlow2.0框架】最完整版：深度学习与TensorFlow2入门实战教程 深度学习/神经网络/框架/教程（附源码和课件），【Tensorflow2.0速成课05】—10分钟学会Tensorflow 保存模型的三种姿势~速成课系列——保存模型载入模型只需一步，【人工智能学习】逐句阅读100篇核心AI论文（双语字幕）https://www.bilibili.com/video/BV1Zt411T7zE?spm_id_from=333.337.search-card.all.click二.PyTorch

1.简介

PyTorch是一个开源的Python机器学习库，基于Torch，用于自然语言处理等应用程序。

2017年1月，由Facebook人工智能研究院（FAIR）基于Torch推出了PyTorch。它是一个基于Python的可续计算包，提供两个高级功能：

①具有强大的GPU加速的张量计算（如NumPy）。

②包含自动求导系统的深度神经网络。

2.优点

①PyTorch是相当简洁且高效快速的框架

②设计追求最少的封装

③设计符合人类思维，它让用户尽可能地专注于实现自己的想法

④与google的Tensorflow类似，FAIR的支持足以确保PyTorch获得持续的开发更新

⑤PyTorch作者亲自维护的论坛 供用户交流和求教问题

⑥入门简单

3.安装Pytorch（PyTorch环境的配置及安装_哔哩哔哩_bilibili本系列教程，将带你用全新的思路，快速入门PyTorch。独创的学习思路，仅此一家。系列教程：av74281036最新安装教程可以观看：https://www.bilibili.com/video/BV1pg411d7MK/, 视频播放量 114953、弹幕量 198、点赞数 1426、投硬币枚数 1063、收藏人数 2455、转发人数 967, 视频作者 我是土堆, 作者简介 喜欢做最通俗易懂的教程「公众号/CSDN：我是土堆」，相关视频：【PyTorch配置安装】同济大佬手把手教你安装，5分钟就能完成！不会你来找我！！！（CPU与GPU版本），1. Pytorch零失败安装使用|Anaconda安装|最新版本torch安装|PyCharm配置torch| 保姆级教程【PyTorch修炼】【AI蜗牛车】，pytorch小白极速入门 第一课（环境安装），最新PyTorch（GPU版）实操安装教程（3090 win10），新加坡国立大学教授强力打造！2022最新版深度学习PyTorch入门实战教程 可以说是非常通俗易懂了！，一分钟学会pycharm环境配置，超简单，Windows系统下安装Anaconda配置深度学习环境（Pytorch的CPU版本），手把手教你用anaconda安装当今最常用的pytorch版本，8. Pytorch教程：Dataset和DataLoader，python基础 如何安装与使用Anaconda jupyter notebookhttps://www.bilibili.com/video/BV1nE411b7Vx?spm_id_from=333.337.search-card.all.click）

PyTorch的安装十分简单，根据PyTorch官网，对系统选择和安装方式等灵活选择即可。这里以anaconda为例。

Pytorch的安装经过了几次变化，请大家以官网的安装命令为准。另外需要说明的就是在1.2版本以后，Pytorch只支持cuda 9.2以上了，所以需要对cuda进行升级，部分显卡都可以用，包括笔记本的MX250也是可以顺利升级到cuda 10.1。此处使用Conda包管理器。

注意：如果使用镜像站，请删除“-c pytorch”；安装CUDA（即GPU）版本时注意安装CUDNN运行库

# 全部通用，ROCm仅支持Linux
conda install pytorch torchvision torchaudio cudatoolkit=10.2 -c pytorch    #CUDA 10.2
conda install pytorch torchvision torchaudio cudatoolkit=11.3 -c pytorch    #CUDA 11.3
conda install pytorch torchvision torchaudio cpuonly -c pytorch #CPU
pip3 install torch torchvision==0.11.2 -f https://download.pytorch.org/whl/rocm4.2/torch_stable.html
# ROCm 4.2 （仅Linux）

验证输入python 进入

import torch
print(torch.__version__)    #Pytorch版本
print(torch.version.cuda)   #CUDA版本
print(torch.backends.cudnn.version())   #CUDNN版本

配置Jupyter Notebook

新建的环境是没有安装安装ipykernel的所以无法注册到Jupyter Notebook中，所以先要准备环境

#安装ipykernel
conda install ipykernel
#写入环境
python -m ipykernel install  --name pytorch --display-name "Pytorch for Deeplearning"

下一步：定制 Jupyter Notebook

#切换回基础环境
activate base
#创建jupyter notebook配置文件
jupyter notebook --generate-config
## 这里会显示创建jupyter_notebook_config.py的具体位置

打开文件，修改

c.NotebookApp.notebook_dir = '' 默认目录位置
c.NotebookApp.iopub_data_rate_limit = 100000000 这个改大一些否则有可能报错

测试

至此，Pytorch 的开发环境安装完成，可以在开始菜单中打开Jupyter Notebook 在New 菜单中创建文件时选择Pytorch for Deeplearning 创建PyTorch的相关开发环境了。

4.学习

PyTorch深度学习快速入门教程（绝对通俗易懂！）【小土堆】_哔哩哔哩_bilibili【已完结！！！已完结！！！2021年5月31日已完结】本系列教程，将带你用全新的思路，快速入门PyTorch。独创的学习思路，仅此一家。个人公众号：我是土堆各种资料，请自取。代码：https://github.com/xiaotudui/PyTorch-Tutorial蚂蚁蜜蜂/练手数据集：链接: https://pan.baidu.com/s/1jZoTmoFzaTLWh4lKBHVbEA 密码, 视频播放量 1383805、弹幕量 18036、点赞数 24890、投硬币枚数 30923、收藏人数 62221、转发人数 8493, 视频作者 我是土堆, 作者简介 喜欢做最通俗易懂的教程「公众号/CSDN：我是土堆」，相关视频：【深度学习Pytprch入门】5天从Pytorch入门到实战！Pytorch深度学习快速入门教程150全集！绝对通俗易懂（计算机视觉/神经网络），三个月从零入门深度学习，保姆级学习路线图，(强推)Pytorch深度学习实战教学，Pytorch 入门到精通全教程 卷积神经网络 循环神经网络，花了2万多买的Python教程全套，现在分享给大家，入门到精通(Python全栈开发教程)，2021B站最好教程！！！PyTorch深度学习快速入门教程（绝对通俗易懂）人工智能精选课程！！附赠全套学习资料！！！！，黑马程序员Python教程_600集Python从入门到精通教程（懂中文就能学会），《PyTorch深度学习实践》完结合集，pytorch 入门学习（目前见过最好的pytorch学习视频），【python编程环境安装】全网最详细python环境安装。pycharm和anaconda手把手安装教学。https://www.bilibili.com/video/BV1hE411t7RN?spm_id_from=333.337.search-card.all.click