实验二 pytorch入门
一. 概念：张量、算子
- 张量（Tensor）：深度学习中表示和存储数据的主要形式。在动手实践机器学习之前，需要熟悉张量的概念、性质和运算规则，以及了解飞桨中张量的各种API。
- 算子（Operator）：构建神经网络模型的基础组件。每个算子有前向和反向计算过程，前向计算对应一个数学函数，而反向计算对应这个数学函数的梯度计算。有了算子，我们就可以很方便地通过算子来搭建复杂的神经网络模型，而不需要手工计算梯度。
张量通俗的说，张量概念是矢量概念和矩阵概念的推广，标量是零阶张量，矢量是一阶张量，矩阵（方阵）是二阶张量，而三阶张量则好比立体矩阵，更高阶的张量用图形无法表达。
算子简单来说就是进行某种“操作”，“动作”。算法中的一个函数、几行可以重复使用的代码、一个数学中的平方操作，这些都可以认为是算子。
二. 使用pytorch实现张量运算
1.创建张量
创建一个张量可以有多种方式，如：指定数据创建，指定形状创建，指定区间创建等。
1.1指定数据创建张量
1.1.1创建一个一维张量
import torch
# 创建一维Tensor
x = torch.tensor([2.0, 3.0, 4.0])执行结果：
1.1.2创建一个二维张量
#创建二维Tensor
x = torch.tensor([[1.0,2.0,3.0],
[4.0,5.0,6.0]])
print(x)执行结果：
1.1.3创建多维张量
#创建多维张量
x = torch.tensor([[[1, 2, 3, 4, 5],
[6, 7, 8, 9, 10]],
[[11, 12, 13, 14, 15],
[16, 17, 18, 19, 20]]])
print(x) 执行结果：
注意：张量在任何一个维度上的元素数量必须相等。下面尝试定义一个在同一维度上元素数量不等的张量。
例如
x = torch.tensor([[1.0,2.0]
[4.0,5.0,6.0]])
print(x)执行结果：
1.2指定形状创建
m, n = 2, 3
# 创建数据全为0，形状为[m, n]的Tensor
zeros_Tensor = torch.zeros([m, n])
# 创建数据全为1，形状为[m, n]的Tensor
ones_Tensor = torch.ones([m, n])
# 创建数据全为指定值，形状为[m, n]的Tensor，这里我们指定数据为10
full_Tensor = torch.full([m, n], 10)
print('zeros Tensor: ', zeros_Tensor)
print('ones Tensor: ', ones_Tensor)
print('full Tensor: ', full_Tensor)执行结果： 
1.3指定区间创建
# 创建以步长step均匀分隔数值区间[start, end)的一维Tensor
arange_Tensor = torch.arange(start=1, end=5, step=1)
# 创建steps段数的均匀分隔数值区间[start, stop]的Tensor
linspace_Tensor = torch.linspace(start=1, end=5, steps=5)
print('arange Tensor: ', arange_Tensor)
print('linspace Tensor: ', linspace_Tensor)执行结果：
2.张量的属性
2.1张量的形状
张量具有以下形状属性：
Tensor.ndim：张量的维度，例如向量的维度为1，矩阵的维度为2。Tensor.shape： 张量每个维度上元素的数量。Tensor.shape[n]：张量第n维的大小。Tensor.numel：张量中全部元素的个数。
创建一个四维张量，并打印出shape、ndim、shape[n]、numel属性。
ndim_4_Tensor = torch.ones([2, 3, 4, 5])
print("Number of dimensions:", ndim_4_Tensor.ndim)
print("Shape of Tensor:", ndim_4_Tensor.shape)
print("Elements number along axis 0 of Tensor:", ndim_4_Tensor.shape[0])
print("Elements number along the last axis of Tensor:", ndim_4_Tensor.shape[-1])
print('Number of elements in Tensor: ', ndim_4_Tensor.numel())执行结果
2.2形状的改变
要想改变一个张量的形状而不改变元素数量和元素值，可以调用reshape函数。
例如：
# 创建一个从0-11的一维张量
x = torch.arange(12)
print(x)
# 改变x的形状为三行四列
X = x.reshape(3, 4)
print(X)执行结果：
注意，通过改变张量的形状，张量的大小不会改变。
2.3张量的数据类型
使用type函数即可
x = torch.arange(12)
print(x.type())执行结果：
2.4张量的设备位置
初始化张量时可以通过place来指定其分配的设备位置，可支持的设备位置有三种：CPU、GPU和固定内存。device可以查询具体的设备。
x = torch.arange(12)
print(x.device)执行结果：
3.张量与Numpy数组转换
x = torch.arange(12)
y = np.array(x)
Y = torch.Tensor(y)
print(Y)执行结果：
4.张量的访问
4.1索引和切片
a = torch.Tensor([[6,7,8],
[5,4,3],
[2,1,0]])
a = torch.Tensor([[1,1,4],[5,1,4],[191,98,10]])
b = a.numpy()
print(b)执行过程：
4.2访问张量
print(a[1])
print(a[1,2])
print(a[[1,2],[0,1]])执行结果：
4.3修改张量
a = torch.Tensor([[6,7,8],
[5,4,3],
[2,1,0]])
a[0] = -1
a[1] = torch.Tensor([-5,-1,-4])
a[2] = a[2] * (-1)
print(a)
执行结果：
5.张量的运算
5.1数学运算
a = torch.Tensor([[6,7,8],
[5,4,3],
[2,1,0]])
print(a)
a = a * -1
print(a)
a = a - 1
print(a)
a += 1
print(a)
a /= 6
print(a)
执行结果：
5.2逻辑运算
a = torch.Tensor([1,0,1,1,0]).bool()
b = torch.Tensor([0,0,1,0,3]).bool()
print(a)
print(b)
print(a & b) # 与运算
print(a | b) # 或运算
print(~a) # 取反
print(a ^ b) # 异或运算执行结果：
5.3矩阵运算
矩阵转置
a = ([[6,5,4],
[3,2,1],
[9,8,7]])
b = torch.tensor(a)
print(b.t()) # 矩阵转置执行结果：
矩阵乘法
a = ([[6,5,4],
[3,2,1],
[9,8,7]])
c = ([[3,4,5],
[5,6,7],
[2,3,4]])
b = torch.tensor(a)
d = torch.tensor(c)
print(torch.mm(b,d)) 执行结果：
6.广播机制
处理两个张量维度不同或不匹配时的计算问题时就产生了广播。
a = ([6,5,4])
c = ([[3,4,5],
[5,6,7],
[2,3,4]])
b = torch.tensor(a)
d = torch.tensor(c)
print(b.shape)
print(d.shape)
print(b+d)执行结果：
7.数据预处理
7.1读取数据集
pandas可以读取很多数据集
读取数据集 house_tiny.csv、boston_house_prices.csv、Iris.csv
这里读取的房子、波士顿房价、鸢尾花数据集均为csv格式
import pandas as pd
df_house_tiny = pd.read_csv('./house_tiny.csv')
df_boston_house_prices = pd.read_csv('./boston_house_prices.csv')
df_iris = pd.read_csv('./Iris.csv')7.2处理缺失值
pandas对缺失值有两种处理方式：丢弃（dropna）和填充（fillna）。
例如
df_house_tiny = pd.read_csv('./house_tiny.csv')
df_boston_house_prices = pd.read_csv('./boston_house_prices.csv')
df_iris = pd.read_csv('./Iris.csv')
df_house_tiny = df_house_tiny.fillna(
df_house_tiny.iloc[:,0:2].mean())
print(df_house_tiny)
这时缺失值过多
df_house_tiny = pd.get_dummies(df_house_tiny,dummy_na=True).iloc[:,[0,2,3,1]]
print(df_house_tiny)执行结果：
7.3转换为张量格式
ret = torch.Tensor(df_house_tiny.values)执行结果：
8.总结
经过第二周对pytorch的学习，我学会了pytorch中张量的各种基本用法，也了解pandas和pytorch的一些代码转换。现在的了解依旧非常浅显，pytorch之中还有很多值得我们去探索。