PyTorch学习：一、PyTorch是什么？
一、PyTorch 是什么
他是一个基于Python的科学计算包，目标用户有两类
- 为了使用GPU来替代numpy
- 一个深度学习研究平台：提供最大的灵活性和速度
开始
张量（Tensors)
张量类似于numpy的ndarrays，不同之处在于张量可以使用GPU来加快计算
from __future__ import print_function
import torch构建一个未初始化的5*3的矩阵：
x = torch.Tensor(5, 3)
print(x)
输出：
tensor([[ 0.0000e+00, 0.0000e+00, 1.3004e-42],
[ 0.0000e+00, 7.0065e-45, 0.0000e+00],
[-3.8593e+35, 7.8753e-43, 0.0000e+00],
[ 0.0000e+00, 1.8368e-40, 0.0000e+00],
[-3.8197e+35, 7.8753e-43, 0.0000e+00]])构建一个零矩阵，使用long的类型
x = torch.zeros(5, 3, dtype=torch.long)
print(x)
输出：
tensor([[0, 0, 0],
[0, 0, 0],
[0, 0, 0],
[0, 0, 0],
[0, 0, 0]])从数据中直接构建一个张量(tensor)：
x = torch.tensor([5.5, 3])
print(x)
输出：
tensor([5.5000, 3.0000])或者在已有的张量(tensor)中构建一个张量(tensor). 这些方法将重用输入张量(tensor)的属性，例如， dtype，除非用户提供新值
x = x.new_ones(5, 3, dtype=torch.double) # new_* methods take in sizes
print(x)
x = torch.randn_like(x, dtype=torch.float) # 覆盖类型!
print(x) # result 的size相同
输出：
tensor([[1., 1., 1.],
[1., 1., 1.],
[1., 1., 1.],
[1., 1., 1.],
[1., 1., 1.]], dtype=torch.float64)
tensor([[ 1.1701, -0.8342, -0.6769],
[-1.3060, 0.3636, 0.6758],
[ 1.9133, 0.3494, 1.1412],
[ 0.9735, -0.9492, -0.3082],
[ 0.9469, -0.6815, -1.3808]])获取张量(tensor)的大小
print(x.size())
输出：
torch.Size([5, 3])注意
torch.Size实际上是一个元组，所以它支持元组的所有操作。
操作
张量上的操作有多重语法形式，下面我们以加法为例进行讲解。
语法1
y = torch.rand(5, 3)
print(x + y)
输出：
tensor([[ 1.7199, -0.1819, -0.1543],
[-0.5413, 1.1591, 1.4098],
[ 2.0421, 0.5578, 2.0645],
[ 1.7301, -0.3236, 0.4616],
[ 1.2805, -0.4026, -0.6916]])语法二
print(torch.add(x, y))
输出：
tensor([[ 1.7199, -0.1819, -0.1543],
[-0.5413, 1.1591, 1.4098],
[ 2.0421, 0.5578, 2.0645],
[ 1.7301, -0.3236, 0.4616],
[ 1.2805, -0.4026, -0.6916]])语法三：
给出一个输出张量作为参数
result = torch.empty(5, 3)
torch.add(x, y, out=result)
print(result)
输出：
tensor([[ 1.7199, -0.1819, -0.1543],
[-0.5413, 1.1591, 1.4098],
[ 2.0421, 0.5578, 2.0645],
[ 1.7301, -0.3236, 0.4616],
[ 1.2805, -0.4026, -0.6916]])
语法四：
原地操作（in-place）
# 把x加到y上
y.add_(x)
print(y)
输出：
tensor([[ 1.7199, -0.1819, -0.1543],
[-0.5413, 1.1591, 1.4098],
[ 2.0421, 0.5578, 2.0645],
[ 1.7301, -0.3236, 0.4616],
[ 1.2805, -0.4026, -0.6916]])注意
任何在原地(in-place)改变张量的操作都有一个_后缀。例如x.copy_(y), x.t_()操作将改变x.
你可以使用所有的numpy索引操作。
你可以使用各种类似标准NumPy的花哨的索引功能
print(x[:, 1])
输出：
tensor([-0.8342, 0.3636, 0.3494, -0.9492, -0.6815])调整大小：如果要调整张量/重塑张量，可以使用torch.view：
x = torch.randn(4, 4)
y = x.view(16)
z = x.view(-1, 8) # -1的意思是没有指定维度
print(x.size(), y.size(), z.size())
输出：
torch.Size([4, 4]) torch.Size([16]) torch.Size([2, 8])如果你有一个单元素张量，使用.item()将值作为Python数字
x = torch.randn(1)
print(x)
print(x.item())
输出：
tensor([0.3441])
0.34412217140197754稍后阅读
这里描述了一百多种张量操作，包括转置，索引，数学运算，线性代数，随机数等。
numpy桥
把一个torch张量转换为numpy数组或者反过来都是很简单的。
Torch张量和numpy数组将共享潜在的内存，改变其中一个也将改变另一个。
把Torch张量转换为numpy数组
a = torch.ones(5)
print(a)
输出：
tensor([1., 1., 1., 1., 1.])
b = a.numpy()
print(b)
print(type(b))
输出：
[ 1. 1. 1. 1. 1.]
通过如下操作，我们看一下numpy数组的值如何在改变。
a.add_(1)
print(a)
print(b)
输出：
tensor([2., 2., 2., 2., 2.])
[ 2. 2. 2. 2. 2.]把numpy数组转换为torch张量
看看改变numpy数组如何自动改变torch张量。
import numpy as np
a = np.ones(5)
b = torch.from_numpy(a)
np.add(a, 1, out=a)
print(a)
print(b)
输出：
[ 2. 2. 2. 2. 2.]
tensor([2., 2., 2., 2., 2.], dtype=torch.float64)所有在CPU上的张量，除了字符张量，都支持在numpy之间转换。
CUDA张量
可以使用.to方法将张量移动到任何设备上。
# let us run this cell only if CUDA is available
# We will use ``torch.device`` objects to move tensors in and out of GPU
if torch.cuda.is_available():
device = torch.device("cuda") # a CUDA device object
y = torch.ones_like(x, device=device) # directly create a tensor on GPU
x = x.to(device) # or just use strings ``.to("cuda")``
z = x + y
print(z)
print(z.to("cpu", torch.double)) # ``.to`` can also change dtype together!
输出：
tensor([1.3441], device='cuda:0')
tensor([1.3441], dtype=torch.float64)