[深度学习入门]PyTorch深度学习[Numpy基础](上)

---

本文的目标受众：
对机器学习、深度学习感兴趣的同学或从业人员，和对Python、PyTorch、TensorFlow等感兴趣并希望能再提升一下自己技术的相关人员。

一、前言

  人工智能时代，人工智能的核心就是深度学习。但目前深度学习的框架有很多，像TensorFlow、PyTorch、FastAI等等，它们都各有各的优缺点。那该选择什么框架进行深度学习的快速入门呢？
  如果你是个小白，或是和我一样因为时间所迫没工夫全部学完再开始动手，那么我建议选择PyTorch。在有了一定的基础之后，我们可以学习一些其他的架构，比如TensorFlow、CNTK等。
   为什么首推PyTorch呢？ 原因有以下几点：
  （1）PyTorch需要手动定义网络层、参数更新等关键的步骤 ，这非常有助于帮助我们快速理解深度学习的核心。而Keras框架虽然也非常简单且容易上手，但封装粒度很粗，隐藏了很多关键步骤，往往我们搭完了神经网络对整个的流程还一知半解。
  （2）PyTorch是动态计算图，其用法更贴近 Python。并且，PyTorch 与 Python共用了许多Numpy的命令，可以降低学习的门槛，比 TensorFlow更容易上手。
  （3）PyTorch的动态图机制在调试方面非常方便，如果计算图运行出错，马上可以跟踪问题。PyTorch的调试与Python的调试一样，通过断点检查就可以高效解决问题。
  其余还有开源项目多、插件适配等优点，不一一列举了。
  前文回顾：[数据分析大全]基于Python的数据分析大全——Numpy基础
  下面继续开始本文的Numpy部分相关讲解。

---

二、Numpy概述

  在机器学习和深度学习中，图像、声音、文本等输入数据最终都要转换为数组或矩阵。如何有效地进行数组和矩阵的运算？这就需要充分利用Numpy。
   为什么是Numpy？实际上，Python本身含有列表(list)和数组(array)，但对于大数据来说，这些结构是有很多不足的。由于列表的元素可以是任何对象，因此列表中所保存的是对象的指针。例如为了保存一个简单的[1,2,3]，都需要有3个指针和3个整数对象。对于数值运算来说，这种结构显然比较浪费内存和 CPU等宝贵资源。
  至于array对象，它可以直接保存数值，和C语言的一维数组比较类似。但是由于它不支持多维，在上面的函数也不多，因此也不适合做数值运算。
  Numpy是数据科学的通用语言，而且与PyTorch关系非常密切，它是科学计算、深度学习的基石。

---

三、生成Numpy数组

  Numpy是 Python 的外部库，不在标准库中。因此，若要使用它，需要先导入Numpy。

import numpy as np

  导入 Numpy后，可通过np.+Tab键，查看可使用的函数，如果对其中一些函数的使用不是很清楚，还可以在对应函数+?，再运行，就可以很方便地看到如何使用函数的帮助信息。
  输入np.然后按Tab键，将出现如下界面:

  运行如下命令，便可查看函数abs的详细帮助信息。

np.abs?

  Numpy 不但强大，而且还非常友好。下面将介绍Numpy的一些常用方法，尤其是与机器学习、深度学习相关的一些内容。
  Numpy封装了一个新的数据类型 ndarray (N-dimensional Array)，它是一个多维数组对象。该对象封装了许多常用的数学运算函数，方便我们做数据处理、数据分析等。
  那么，如何生成ndarray呢？
  这里介绍生成ndarray的几种方式，如从已有数据中创建，利用random创建，创建特定形状的多维数组，利用arange、linspace函数生成等。

---

3.1 从已有数据中创建数组

  直接对 Python的基础数据类型(如列表、元组等)进行转换来生成 ndarray :
  （1）将列表转换成 ndarray :

import numpy as np
lstl =[3.14,2.17,0,1,2]
ndl = np.array(lst1)
print(ndl)
# [3.142.17 0. 1. 2. ]
print(type(ndl))
# 

  （2）嵌套列表可以转换成多维 ndarray :

import numpy as np
lst2 = [[3.14,2.17，0，1,2],[1,2，3,4,5]]
nd2 = np.array(lst2)
print(nd2)
# [[3.14 2.17 0. 1. 2. ]
# [1. 2. 3. 4. 5. ]]
print(type(nd2))
# 

  如果把上面示例中的列表换成元组，也同样适用。

---

3.2 利用random模块生成数组

  在深度学习中，我们经常需要对一些参数进行初始化，因此为了更有效地训练模型,提高模型的性能。有些初始化还需要满足一定的条件，如满足正态分布或均匀分布等。
  这里介绍了几种常用的方法，如下表所示，列举了np.random模块常用的函数：

函数	描述
np.random.random	生成0到1之间的随机数
np.random.uniform	生成均匀分布的随机数
np.random.randn	生成标准正态的随机数
np.random.randint	生成随机的整数
np.random.normal	生成正态分布
np.random.shuffle	随机打乱顺序
np.random.seed	设置随机数种子
random_sample	生成随机的浮点数

  下面来看一些函数的具体使用：

import numpy as np

nd3 =np.random.random([3,3])
print (nd3)
#[[0.43007219 0.87135582 0.45327073]
# [0.7929617 0.06584697 0.82896613]
# [0.62518386 0.70709239 0.75959122]]
print("nd3的形状为:",nd3.shape)
# nd3的形状为:(3,3)

  为了每次生成同一份数据，可以指定一个随机种子，使用shuffle函数打乱生成的随机数。

import numpy as np
np.random.seed(123)
nd4 = np.random.randn(2,3)
print(nd4)
np.random.shuffle(nd4)
print("随机打乱后数据:")print (nd4)
print(type(nd4))

  输出结果：

[[-1.0856306 0.99734545  0.2829785]
 [-1.50629471 -0.57860025 1.65143654]]

  随机打乱后数据：

[[-1.50629471 -0.57860025 1.65143654]
 [-1.0856306 0.99734545 0.2829785]]

---

3.3 创建特定形状的多维数组

  参数初始化时，有时需要生成一些特殊矩阵，如全是0或1的数组或矩阵，这时我们可以利用np.zeros、np.ones、np.diag来实现，如下表所示：

函数	描述
np.zeros((3,4))	创建3×4的元素全为0的数组
np.ones((3,4))	创建3×4的元素全为1的数组
np.empty( (2,3))	创建2×3的空数组，空数据中的值并不为0，而是未初始化的垃圾值
np.zeros_like(ndarr)	以 ndarr相同维度创建元素全为0数组
np.ones_like(ndarr)	以ndarr相同维度创建元素全为1数组
np.empty_like(ndarr)	以ndarr相同维度创建空数组
np.eye(5)	该函数用于创建一个5×5的矩阵，对角线为1，其余为0
np.full((3,5),666)	创建3×5的元素全为666的数组,666为指定值

  下面通过几个示例说明:

import numpy as np
# 生成全是0的3x3矩阵
nd5 = np.zeros([3,3])
#生成与nd5形状一样的全0矩阵
#np .zeros_like(nd5)
#生成全是1的3x3矩阵
nd6 = np. ones([3,3])
#生成3阶的单位矩阵
nd7 = np.eye(3)
#生成3阶对角矩阵
nd8 = np.diag([1,2,3])
print(nd5)
#[[O. 0. 0.]
# [0. 0. 0.]
# [0. 0. 0.]]
print(nd6)
#[[1. 1. 1.]
# [1. 1. 1.]
# [1. 1. 1.]]
print(nd7)
#[[1. 0. 0.]
# [0. 1. 0.]
# [0. 0. 1.]]
print(nd8)
# [[1 0 0]
# [0 2 0]
# [0 0 3]]

  有时还可能需要把生成的数据暂时保存起来，以备后续使用。

import numpy as np

nd9 =np.random.random([5,5])
np.savetxt(×=nd9, fname='./testl.txt')
nd10 = np.loadtxt('./test1.txt ')
print(ndl0)

  输出结果：

[[0.41092437 0.5796943 0.13995076 0.40101756 0.62731701]
[0.32415089 0.24475928 0.69475518 0.5939024 0.63179202]
[0.44025718 0.08372648 0.71233018 0.42786349 0.2977805]
[0.49208478 0.74029639.0.35772892 0.41720995 0.65472131]
[0.37380143 0.23451288 0.98799529 0.76599595 0.77700444]]

---

3.4 利用arange和linspace函数生成数组

  arange是numpy模块中的函数，其格式为:

arange([start,]stop[,step,],dtype=None)

  其中，start与 stop 用来指定范围，step用来设定步长。在生成一个ndarray时，start 默认为0，步长 step 可为小数。Python有个内置函数range，其功能与此类似。

import numpy as np

print(np.arange (10))
#[0 1 2 3 4 5 6 7 8 9]
print(np.arange(0,10))
#[0 1 2 3 4 5 6 7 8 9]
print(np.arange(1,4,0.5))
#[ 1. 1.5 2. 2.5 3. 3.5]
print(np.arange(9,-1,-1))
#[9 8 7 6 5 4 3 2 1 0]

  linspace也是numpy模块中常用的函数，其格式为:

np.linspace(start,stop,num=50,endpoint=True,retstep=False,dtype=None)

  linspace可以根据输入的指定数据范围以及等份数量，自动生成一个线性等分向量。
  其中， endpoint(包含终点）默认为True，等分数量num默认为50。如果将retstep设置为True，则会返回一个带步长的ndarray。

import numpy as np
print (np .linspace(0,1,10))
#[0. 0.11111111 0.222222220.33333333 0.44444444 0.55555556 0.666666670.77777778 0.88888889 1. ]

  值得一提的是，这里并没有像我们预期的那样，生成0.1,0.2,…1.0这样步长为0.1的ndarray，这是因为linspace必定会包含数据起点和终点，那么其步长则为(1-0) /9 =0.11111111。如果需要产生0.1,0.2…,1.0这样的数据，只需要将数据起点0修改为0.1即可。
  除了上面介绍到的arange和 linspace，Numpy还提供了logspace函数，该函数的使用方法与linspace的使用方法一样，读者不妨自己动手试一下。

---

四、获取元素

  第三节中我们了解了生成ndarray的几种方法。那在数据生成后，如何读取我们所需要的数据呢？接下来将介绍几种常用获取数据的方法。

import numpy as np
np.random.seed(2019)
nd11 = np.random.random([10])
#获取指定位置的数据，获取第4个元素
ndl1[3]
#截取一段数据
ndl1[3:6]
#截取固定间隔数据
ndl1[1:6:2]
#倒序取数nd11[::-2]
#截取一个多维数组的一个区域内数据
ndl2=np.arange(25).reshape([5,5])
nd12[1:3,1:3]
#截取一个多维数组中，数值在一个值域之内的数据ndl2[(ndl2>3)&(ndl2<10)]
#截取多维数组中，指定的行,如读取第2,3行
nd12[[1,2]]        #或nd12[1:3,:]
#截取多维数组中，指定的列,如读取第2,3列
nd12[:,1:3]

  如果对上面这些获取方式还不是很清楚，没关系，下面则将通过图形的方式来进一步说明，如下图所示：
  左边为表达式，右边为表达式获取的元素。注意，不同的边界，表示不同的表达式。

  获取数组中的部分元素除了通过指定索引标签来实现外，还可以通过使用一些函数来实现，如通过random.choice函数从指定的样本中随机抽取数据。

import numpy as np
from numpy import random as nr
a=np.arange(1,25,dtype=float)
cl=nr.choice(a,size=(3,4)) 
#size指定输出数组形状
c2=nr.choice(a,size=(3,4), replace=False) 
#replace缺省为True，即可重复抽取
#下式中参数p指定每个元素对应的抽取概率，缺省为每个元素被抽取的概率相同。
3=nr.choice(a,size=(3,4),p=a/np.sum(a))
print("随机可重复抽取")
print(c1)
print("随机但不重复抽取")
print(c2)
print("随机但按制度概率抽取")
print(c3)

  打印结果：

# 随机可重复抽取
[[7. 22. 19. 21.]
[ 7. 5. 5. 5. ]
[7. 9.22. 12.]]
# 随机但不重复抽取
[[21. 9. 15. 4.]
[23. 2. 3. 7.]
[13. 5. 6. 1.]]
# 随机但按制度概率抽取
[[15. 19. 24. 8.]
[5. 22. 5. 14.]
22. 13. 17. 1]

---

五、Numpy的算术运算

  在机器学习和深度学习中，涉及大量的数组或矩阵运算，本节我们将重点介绍两种常用的运算。一种是对应元素相乘，又称为逐元乘法 （Element-Wise Product)，运算符为np.multiply( ),或*。另一种是点积或内积元素，运算符为np.dot( )。

---

5.1 对应元素相乘

  对应元素相乘(Element-Wise Product)是两个矩阵中对应元素乘积。np.multiply函数用于数组或矩阵对应元素相乘，输出与相乘数组或矩阵的大小一致，其格式如下:

numpy.multiply(x1,,x2,/,out=None,*,where=True,casting='same_kind',order='K',dtype-None,subok=True[,signature,extobj])

  其中x1、x2之间的对应元素相乘遵守广播规则，Numpy的广播规则会在下一篇文章——Numpy基础（下）中介绍。以下我们通过一些示例来进一步说明。

A=np.array([[l,2]，[-l,4]])
B=np.array([[2,0],[3,4]])
A*B
# 结果如下:
array([[2,0],[-3，16]])
# 或另一种表示方法np.multiply(A,B)#运算结果也是
array([[2,0],[-3,16]])

  矩阵A和B的对应元素相乘,由下图直观表示。

  Numpy数组不仅可以和数组进行对应元素相乘，还可以和单一数值(或称为标量）进行运算。运算时，Numpy数组中的每个元素都和标量进行运算，其间会用到广播机制(下一篇文章中将会详细讲解)。

print (A*2.0)print(A/2.0)

  输出结果为：

[ [2. 4.]
[-2. 8.]]
[[0.5 1．]
[-0.5 2. ]]

  由此，推广后，数组通过一些激活函数后，输出与输入形状一致。

X=np.random.rand(2,3)
def softmoid(x):
	return 1/(1+np.exp(-x))
def relu(x):
	return np.maximum(0,x)
def softmax(x) :
	return np.exp(x)/np.sum(np.exp(X))
	
print("输入参数x的形状:",X.shape)
print("激活函数softmoid输出形状:",softmoid(x) .shape)
print("激活函数relu输出形状:", relu(X).shape)
print("激活函数softmax输出形状:",softmax(X).shape)

  输出结果：

输入参数x的形状:(2，3)
激活函数softmoid输出形状:(2,3)
激活函数relu输出形状:(2,3)
激活函数softmax输出形状:(2，3)

---

5.2 点积运算

  点积运算(Dot Product)又称为内积，在 Numpy用np.dot表示，其一般格式为:

numpy.dot(a,b,out=None)

  以下通过一个示例来说明dot的具体使用方法及注意事项。

X1=np.array([[1,2],[3,4]])
x2=np.array([[5，6,7],[8,9,10]])
x3=np.dot(X1,X2)
print(X3)

  输出结果：

[[21 2427]
 [47 5461]]

  以上运算,可用下图表示。

  在上图中，矩阵X1和矩阵X2进行点积运算，其中X1和X2对应维度（即X1的第2个维度与X2的第1个维度）的元素个数必须保持一致。此外，矩阵X3的形状是由矩阵XI的行数与矩阵X2的列数构成的。

---

六、后记

  本篇文章主要讲解了Numpy概述、生成Numpy数组、获取元素和Numpy的算术运算的内容。因为要写的内容太多，就拆为上下篇了。这几天会把Numpy基础的下篇也放出来的。
  感谢各位读者朋友们长期以往的支持！非常感谢！！！