【学习笔记】动手学深度学习2-2.2
动手学深度学习笔记2
2.1 数据操作
张量（tensor）
无论使用哪个深度学习框架，它的张量类（在MXNet中为ndarry，在PyTorch和TensorFlow中为Tenor）都与Numpy中的ndarray类似，但又比Numpy中的ndarray多一些重要功能。
- GPU很好的支持加速计算，而Numpy仅支持CPU计算
- 张量类支持自动微分
如无特殊说明，本书所说的张量均指的是张量类的实例。
2.1.1 入门
首先用conda创建虚拟环境d2l
conda create --name d2l python=3.8
再利用pip下载对应的torch-GPU版本
conda install pytorch torchvision torchaudio cudatoolkit=10.2 -c pytorch
安装anaconda时jupyter notebook默认安装在base环境中，因此新建虚拟环境后，需要在虚拟环境中也安装jupyter notebook。
首先打开anaconda promote
在base环境中输入conda list，界面如下：
首先我们激活虚拟环境activate pytorch_gpu，然后输入conda install nb_conda，安装好后输入jupyter notebook。
进入jupyter后选择Kernel，然后再选择change kernel即可将jupyter运行环境改为虚拟环境。
首先导入torch
import torch
张量表示由一个数值组成的数组，这个数组可能有多个维度。
具有一个轴的张量对应数学上的向量（vector）。具有两个轴的张量对应数学上的矩阵（matrix）。具有两个轴以上的张量没有特殊的数学名称。
torch.arange()返回大小的一维张量
使用arange创建一个行向量x，这个行向量包含从0开始的前12个整数，被默认创建为浮点数。
x=torch.arange(12)
x
-------------------
out：tensor([ 0, 1, 2, 3, 4, 5, 6, 7, 8, 9, 10, 11])
张量中的每个值都被称为张量的元素（element）
通过张量的shape属性来访问张量的形状（沿每个轴的长度）
x.shape
--------
out:torch.Size([12])
通过张量的numel属性可以得到张量中元素的总数，即形状的所有元素乘积。
x.numel()
-----------
out:12
要改变一个张量的形状而不改变其元素数量和元素值，可以调用reshape函数。e.g.可以把张量x从形状（12，）的行向量转换为形状为（３，４）的矩阵。这个新的张量包含与转换前相同的值，但是它被看成一个３行４列的矩阵。
张量形状发生变化但元素值不变，大小也不变
X=x.reshape(3,4)
X
------------------------
out:tensor([[ 0, 1, 2, 3],
[ 4, 5, 6, 7],
[ 8, 9, 10, 11]])
使用reshape时我们不一定要通过手动调整维度，在上面的例子中，我们也可以通过x.reshape(-1,4)或x.reshape(3,-1)来取代x.reshape(3,4)
希望张量自动推断的维度放置
-1来调用这一功能。
创建一个形状为（2，3，4）的张量，其中所有元素值都为0。
torch.zeros((2,3,4))
----------------------
out:tensor([[[0., 0., 0., 0.],
[0., 0., 0., 0.],
[0., 0., 0., 0.]],
[[0., 0., 0., 0.],
[0., 0., 0., 0.],
[0., 0., 0., 0.]]])
创建一个形状为（2，3，4）的张量，其中所有元素为1。
torch.ones((2,3,4))
---------------------
out:tensor([[[1., 1., 1., 1.],
[1., 1., 1., 1.],
[1., 1., 1., 1.]],
[[1., 1., 1., 1.],
[1., 1., 1., 1.],
[1., 1., 1., 1.]]])
创建一个形状为（3，4）的张量，其中的每个元素都从均值为0，标准差为1的标准高斯（正态）分布中随机采样。
torch.randn(3,4)
-------------------------
out:tensor([[-0.7155, -0.1800, -1.1658, -0.1305],
[-1.3936, -0.2254, -0.3788, -1.5430],
[ 1.9305, -0.1617, -0.1745, 0.7591]])
通过提供包含数值的python列表（或嵌套列表）来为张量中所需的每个元素赋予确定值。
在这里，最外层的列表对应于轴0，内层的列表对应轴1。
torch.tensor([[2,1,4,3],[1,2,3,4],[4,3,2,1]])
----------------------------------------------------
out:tensor([[2, 1, 4, 3],
[1, 2, 3, 4],
[4, 3, 2, 1]])
torch.tensor是一种包含单一数据类型元素的多维矩阵。可以被用于转换python的list或序列生成。
2.1.2 运算
按元素（elementwise）操作： 将标准标量运算符应用于数组的每个元素。 对于将两个数组作为输入的函数，按元素运算将二元运算符应用于两个数组中的每对位置对应的元素。 我们可以基于任何标量到标量的函数来创建元素函数。
x = torch.tensor([1.0,2,4,8])
y = torch.tensor([2,2,2,2])
# **运算符是求幂运算
x + y,x - y,x * y,x / y,x ** y
---------------------------------
out:(tensor([ 3., 4., 6., 10.]),
tensor([-1., 0., 2., 6.]),
tensor([ 2., 4., 8., 16.]),
tensor([0.5000, 1.0000, 2.0000, 4.0000]),
tensor([ 1., 4., 16., 64.]))
返回一个新张量，包含输入input张量每个元素的指数。
torch.exp(x)
--------------
out:tensor([2.7183e+00, 7.3891e+00, 5.4598e+01, 2.9810e+03])
把多个张量连结（concatenate）在一起，把它们端对端地叠起来形成一个更大的张量。我们只需要提供张量列表，并给出沿哪个轴连结。
X = torch.arange(12,dtype=torch.float32).reshape((3,4))
Y = torch.tensor([[2.0,1,4,3],[1,2,3,4],[4,3,2,1]])
#沿行(轴-0，形状的第一个元素)连结两个矩阵
torch.cat((X,Y),dim=0)
out：tensor([[ 0., 1., 2., 3.],
[ 4., 5., 6., 7.],
[ 8., 9., 10., 11.],
[ 2., 1., 4., 3.],
[ 1., 2., 3., 4.],
[ 4., 3., 2., 1.]])
#沿列(轴-1，形状的第二个元素)连结两个矩阵
torch.cat((X,Y),dim=1)
out：tensor([[ 0., 1., 2., 3., 2., 1., 4., 3.],
[ 4., 5., 6., 7., 1., 2., 3., 4.],
[ 8., 9., 10., 11., 4., 3., 2., 1.]])
通过逻辑运算符构建二元张量，以X == Y 为例子，已知：
X out:tensor([[ 0., 1., 2., 3.],
[ 4., 5., 6., 7.],
[ 8., 9., 10., 11.]])
Y out:tensor([[2., 1., 4., 3.],
[1., 2., 3., 4.],
[4., 3., 2., 1.]])
对于每个位置，若X与Y在该位置地值相等，则新张量中相应项的值为１，这意味着逻辑语句X＝＝Y在该位置处为真，否则该位置为０。
X == Y
-------------
out:tensor([[False, True, False, True],
[False, False, False, False],
[False, False, False, False]])
对张量中的所有元素进行求和就会产生一个只有一个元素的张量
X.sum()
-------
out:tensor(66.)
2.1.3 广播机制
广播机制的工作方式如下：
- 首先，通过适当复制元素来扩展一个或两个数组，以便在转换后，两个张量具有相同的形状。
- 其次，对生成的数组执行按元素操作。
沿着数组中长度为1的轴进行广播：
a = torch.arange(3).reshape((3,1))
b = torch.arange(2).reshape((1,2))
a,b
out:(tensor([[0],
[1],
[2]]),
tensor([[0, 1]]))
由于a和b分别是3×1和1×2矩阵，如果让它们相加，显然形状不匹配。因此我们将两个矩阵广播为一个更大的3×2矩阵，矩阵a将复制列，矩阵b将复制行 然后在进行相加。
a + b
---
out：tensor([[0, 1],
[1, 2],
[2, 3]])
2.1.4 索引和切片
通过索引读取
张量中的元素可以通过索引访问，与任何python数组一样，第一个元素的索引是0；可以指定范围以包含第一个元素和最后一个之前的元素 。也可以通过负索引根据元素到列表尾部的相对位置访问元素。
X[-1] #用[-1]选择最后一个元素
-----------------------------------
out:tensor([ 8., 9., 10., 11.])
X[1:3] #选择第二个和第三个元素
-------------------------------
out:tensor([[ 4., 5., 6., 7.],
[ 8., 9., 10., 11.]])
通过索引将元素写入矩阵
# 索引位置是从0开始的
X[1,2] = 9
X
out:tensor([[ 0., 1., 2., 3.],
[ 4., 5., 9., 7.],
[ 8., 9., 10., 11.]])
2.1.5 节省内存
python中的id()函数为我们提供了内存中引用对象的确切地址。
e.g.
before = id(Y)
Y = Y + X
id(Y)==before
out:False
利用Y[:]=实现原地执行操作，减少内存开销
# 创建一个和Y形状完全相同，其中所有元素均为0的张量
Z = torch.zeros_like(Y)
print('id(Z):',id(Z))
# Y[：] = 可以实现执行原地操作（分配地址不变）
Z[:] = X + Y
print('id(Z)',id(Z))
out:id(Z): 3184900963456
id(Z): 3184900963456
2.1.6 转换为其他Python对象
转换为Numpy张量
A = X.numpy()
B = torch.tensor(A)
type(A),type(B)
------------------
out:(numpy.ndarray, torch.Tensor)
将大小为1的张量转换为python标量
调用item函数或者python的内置函数
a = torch.tensor([3.5])
a,a.item(),float(a),int(a)
------------------------------
out:(tensor([3.5000]), 3.5, 3.5, 3)
2.1.7 小结
- 深度学习存储和操作数据的主要接口是张量（n维数组）。它提供了各种功能，包括基本数学运算、广播、索引、切片、内存节省和转换其他python对象。
2.1.8 一些练习
上文中的条件语句X == Y也可以更改为X < Y或X > Y同样会获得一个元素值为false或true的张量。
2.2 数据预处理
在python中常用的数据分析工具一般使用pandas软件包，并且可以和张量兼容。
2.2.1 读取数据集
- 首先创建一个人工数据集，并存储在csv文件中
../data/house_tiny.csv中，其中..是我们自定义的路径。 - 然后我们将数据集按行写入csv文件中
import os
# mkdir_if_not_exist函数可确保目录../data存在
os.makedirs(os.path.join('E:\somepath','data'),exist_ok = True)
data_file = os.path.join('E:\somepath','data','house_tiny.csv')
# with open()函数相比open()函数来说，会自动关闭文件不需要再写close
with open(data_file,'w') as f:
f.write('NumRooms,Alley,Price\n') # 列名
f.write('NA,Paze,127500\n') # 每行表示一个数据样本
f.write('2,NA,106000\n')
f.write('4,NA,178100\n')
f.write('NA,NA,140000\n')
- 从创建的csv文件中加载数据集，我们通过导入pandas包调用read_csv函数实现。
# 如果没有安装pandas，则取消下一行注释：
# !pip install pandas
import pandas as pd
data = pd.read_csv(data_file)
print(data)
out: NumRooms Alley Price
0 NaN Paze 127500
1 2.0 NaN 106000
2 4.0 NaN 178100
3 NaN NaN 140000
2.2.2 处理缺失值
**Note：**NAN项代表缺失值
处理缺失值的典型方法包括插值和删除，其中插值用替代值代替缺失值。而删除则忽略缺失值。
插值
通过位置索引iloc，我们将data分为inputs和outputs，其中前者为data的前两列，而后者为data的最后一列。
- 关于
iloc
pandas.iloc方法提供了基于整数的索引方式，与python自身的list的索引类似。iloc是主要基于下标的操作，语法为data.iloc[。,
]
在iloc中一共有2个“参数” -行选择器和-列选择器，例如：
# 使用DataFrame 和 iloc 进行单行/列的选择
# 行选择：
data.iloc[0] # 数据中的第一行
data.iloc[1] # 数据中的第二行
data.iloc[-1] # 数据中的最后一行
# 列选择：
data.iloc[:, 0] # 数据中的第一列
data.iloc[:, 1] # 数据中的第二列
data.iloc[:, -1] # 数据中的最后一列
iloc同样可以进行行和列的混合选择，例如：
# 使用 iloc 进行行列混合选择
data.iloc[0:5] # 数据中的第 1-5 行
data.iloc[:, 0:2] # 选择数据中的前2列和所有行
data.iloc[[0, 3, 6, 24], [0, 5, 6]] # 选择第 1,4,7,25行 和 第 1,6,7 列
data.iloc[0:5, 5:8] # 选择第1-6行 和 6-9列
拉回正题：
# 将data分成inputs，outputs，inputs是data中的前两列，outpus是data中的最后一列(索引序号为2的列，即第三列)
inputs,outputs = data.iloc[:,0:2],data.iloc[:,2]
# 对inputs中缺少的数值，用同一列的均值替换“NAN”项
inputs = inputs.fillna(inputs.mean())
print(inputs)
pandas中的x.mean()函数返回所请求轴的值的平均值，pandas中的fillna函数作用是填充列值null为指定的值，替换的列可以指定。
输出结果为：
NumRooms Alley
0 3.0 Paze
1 2.0 NaN
2 4.0 NaN
3 3.0 NaN
而对于inputs中的类别值或离散值，则将“NAN”看作一个类别。由于“Alley”列只接受两种类型的类别值“Pave”和“NAN”，pandas可以自动将此列转换为两列“Alley_Pave”和“Alley_nan”，对于Alley类型为Pave的行，在Alley_Pave和Alley_nan分别设置为0和1。
pandas.get_dummies是将拥有不同值得变量转换为0/1数值。这一操作也称为虚拟变量处理。语法格式如下：
pandas.get_dummies(data,prefix=None,prefix_sep="_",dummy_na=False,columns=None,sparse=False,drop_first=False,dtype=None)
- data:表示哑变量（虚拟变量）处理的数据
- prefix:表示列名的前缀，默认为None。
- prefix_sep:用于附加前缀作为分隔符使用，默认为"_"
- dummy_na:表示是否为NAN值添加一列，默认为False。
- columns：表示DataFrame要编码的列名，默认为None。
- sparse：表示虚拟列是否是稀疏的，默认为False。
- drop_first：是否通过从k个分类级别中删除第一个来获得k-1个分类级别，默认为False。
上述关于pandas.get_dummies的语法说明来源于
# dummy_na=True->把NAN值添加为一列
inputs = pd.get_dummies(inputs,dummy_na=True)
print(inputs)
--------------------------
out： NumRooms Alley_Paze Alley_nan
0 3.0 1 0
1 2.0 0 1
2 4.0 0 1
3 3.0 0 1
2.2.3 转换为张量格式
现在inputs和outputs中的所有条目都是数值类型，它们可以转换为张量格式。当数据采用张量格式后，可以通过在2.1节中引入的那些张量函数来进一步操作。
DataFrame.values用于将pandas的DataFrame转换成numpy数组
import torch
X,y = torch.tensor(inputs.values),torch.tensor(outputs.values)
X,y
----------------------
out:(tensor([[3., 1., 0.],
[2., 0., 1.],
[4., 0., 1.],
[3., 0., 1.]], dtype=torch.float64),
tensor([127500, 106000, 178100, 140000]))
2.2.4
- Pandas可以和张量兼容
- 插值和删除可以用于处理缺失的数据
2.2.5 练习
删除缺失值最多的列
参考链接
eginputs = inputs
import numpy as np
# 将eginputs中的第1行第0列处元素取值为NAN
eginputs.iloc[1,0] =np.NAN
eginputs
----------------------------------------
out:NumRooms Alley_Paze Alley_nan
0 3.0 1 0
1 2.0 0 1
2 4.0 0 1
3 3.0 0 1
pandas中的sort_values()函数可以将数据集依照某个字段中的数据进行排序，该函数既可以根据指定的列数据，也可以根据指定的行数据进行排序
sort_values()函数的语法：
DataFrame.sort_values(by='##',axis=0,ascending=True, inplace=False, na_position=‘last’)
- by：指定列名(axis=0或’index’)或索引值(axis=1或’columns’)
- axis：若axis=0或’index’，则按照指定列中数据大小排序；若axis=1或’columns’，则按照指定索引中数据大小排序，默认axis=0
- ascending：是否按指定列的数组升序排列，默认为True，即升序排列
- inplace：是否用排序后的数据集替换原来的数据，默认为False，即不替换
- na_position：{‘first’,‘last’}，设定缺失值的显示位置
# 每一列中包含的缺失值个数
sort_by_null = eginputs.isnull().sum().sort_values(ascending = False)
sort_by_null
-----------------------------------
out:NumRooms 1
Alley_Paze 0
Alley_nan 0
dtype: int64
# 选中在sort_by_null中包含缺失值最多的列
drop_colunm = sort_by_null.keys()[0]
drop_colunm
--------------
out:'NumRooms'
eginputs = eginputs.drop(columns = drop_colunm)
eginputs
----------
out: Alley_Paze Alley_nan
0 1 0
1 0 1
2 0 1
3 0 1
将预处理后的数据集转换为张量格式
import torch
a = torch.tensor(eginputs.values)
a
----------------------------
out:tensor([[1, 0],
[0, 1],
[0, 1],
[0, 1]], dtype=torch.uint8)