[Machine learning][Part3] numpy 矢量矩阵操作的基础知识

很久不接触数学了，machine learning需要用到一些数学知识，这里在重温一下相关的数学基础知识

矢量

矢量是有序的数字数组。在表示法中，矢量用小写粗体字母表示。矢量的元素都是相同的类型。例如，矢量不包含字符和数字。数组中元素的数量通常被称为维度，数组中元素的数量通常被称为维度，可以使用索引引用矢量的元素。在数学设置中，索引通常从 1 到 n。在计算机科学和这些实验室中，索引通常从 0 运行到 n-1。下面是两个的对比，在计算机中我们使用的是左边code的那种方式，也就是0到n-1

 Numpy中的阵列

NumPy 的基本数据结构是一个可索引的 n 维数组，其中包含相同类型 （dtype） 的元素。

一维向量的操作：

向量创建

创建一个指定shape的一维向量，参数可以是整数、元祖等等,参数表示要创建的序列的shape

a= np.zeros(4); print(f"np.zeros(4) :   a = {a}, a shape = {a.shape}, a data type = {a.dtype}")
a= np.zeros((4,)); print(f"np.zeros(4,) :  a = {a}, a shape = {a.shape}, a data type = {a.dtype}")
a= np.random.random_sample(4); print(f"np.random.random_sample(4): a = {a}, a shape = {a.shape}, a data type = {a.dtype}")

创建一个不指定shape的一维向量

a = np.arange(4.); print(f"np.arange(4.):     a = {a}, a shape = {a.shape}, a data type = {a.dtype}")
a = np.random.rand(4);  print(f"np.random.rand(4): a = {a}, a shape = {a.shape}, a data type = {a.dtype}")

创建指定值的一维向量

a = np.array([5, 4, 3, 2]); print(f"np.array([5,4,3,2]):  a = {a},     a shape = {a.shape}, a data type = {a.dtype}")
a = np.array([5., 4, 3, 2]); print(f"np.array([5.,4,3,2]): a = {a}, a shape = {a.shape}, a data type = {a.dtype}")

向量操作

获取向量元素：通过index和切片可以获得，这个和列表的操作相似。

• 通过index获得：

a = np.arange(10)
print(a)
# 获取Index = 2的元素
print(f"a[2].shape: {a[2].shape} a[2]  = {a[2]}, Accessing an element returns a scalar")

# 获取最后一个元素
print(f"a[-1]={a[-1]}")

# index 必须在向量有效范围以内，否则会报错
try:
    c = a[10]
except Exception as e:
    print(e)

• 切片获取元素

# 切片操作通过(start:stop:step)这个三个参数来控制要获取的元素，
# 切片操作是左闭右开，也就是包括index=start的值，但是不包括index=stop的值
# 向量切片操作
a = np.arange(10)
print(f"a         = {a}")

#获取向量中的从index=2开始到Index=7结束的5个元素, 第三个参数1表示step=1，代表连续取值 (start:stop:step)
c = a[2:7:1];     print("a[2:7:1] = ", c)

# 获取向量中的从index=2开始到Index=7结束的元素, 第三个参数1表示step=2，代表隔一个index取一个值 (start:stop:step)
c = a[2:7:2];     print("a[2:7:2] = ", c)

# 取index 大于3的所有值
c = a[3:];        print("a[3:]    = ", c)

# 取index小于3的所有值
c = a[:3];        print("a[:3]    = ", c)

# 取所有的值
c = a[:];         print("a[:]     = ", c)

• 单个向量的操作

a = np.array([1, 2, 3, 4])
print(f"a:       {a}")
# 将向量中的元素全部变为相反数
b = -a
print(f"b:      {b}")
# 计算向量中所有元素的和并返回一个和的标量
b = np.sum(a)
print(f"b = np.sum(a) : {b}")
# 求向量的平均值
b = np.mean(a)
print(f"b = np.mean(a): {b}")
# 对向量中每个元素求平法
b = a**2
print(f"b = a**2      : {b}")

• 对向量元素的操作，numpy很多对数字的操作也都是用于向量的

# 向量a+向量b, 两个向量长度必须相同，不然会报error
a = np.array([1, 2, 3, 4])
b= np.array([-1, -2, 3, 4])

print(f"Binary operators work element wise: {a + b}")

# 标量和向量的操作

a = np.array([1, 2, 3, 4])
b = 5 * a
print(f"b = 5 * a : {b}")

• 向量与向量的点积

自定义一个实现点积的方法：

def my_dot(a,b):
    """
   Compute the dot product of two vectors

    Args:
      a (ndarray (n,)):  input vector
      b (ndarray (n,)):  input vector with same dimension as a

    Returns:
      x (scalar):
    """

    x = 0
    for i in range(a.shape[0]):
        x= x+a[i]*b[i]
    return x


# test my_dot()

a = np.array([1,2,3,4])
b = np.array([-1, 4, 3, 2])

print(f"my_dot(a, b) = {my_dot(a, b)}")

使用Numpy中的点积方法:

# 使用numpy中的dot来计算点积，返回一个标量
a = np.array([1, 2, 3, 4])
b = np.array([-1, 4, 3, 2])
c = np.dot(a, b)
print(f"NumPy 1-D np.dot(a, b) = {c}, np.dot(a, b).shape = {c.shape} ")
c = np.dot(b, a)
print(f"NumPy 1-D np.dot(b, a) = {c}, np.dot(a, b).shape = {c.shape} ")

然后对上面两种计算点积的方法做个效率上的对比

# 对比一下numpy 的dot和自己写的my_dot的效率如何，可以看出numpy中的效率要高很多
np.random.seed(1)
a = np.random.rand(10000000)  # very large arrays
b = np.random.rand(10000000)

tic = time.time()  # capture start time
c = np.dot(a, b)
toc = time.time()  # capture end time

print(f"np.dot(a, b) =  {c:.4f}")
print(f"Vectorized version duration: {1000*(toc-tic):.4f} ms ")

tic = time.time()  # capture start time
c = my_dot(a,b)
toc = time.time()  # capture end time

print(f"my_dot(a, b) =  {c:.4f}")
print(f"loop version duration: {1000*(toc-tic):.4f} ms ")

del(a);del(b)  #remove these big arrays from memory

运行结果为：可以看到numpy的耗时要少很多

my_dot(a, b) = 24
NumPy 1-D np.dot(a, b) = 24, np.dot(a, b).shape = () 
NumPy 1-D np.dot(b, a) = 24, np.dot(a, b).shape = () 
np.dot(a, b) =  2501072.5817
Vectorized version duration: 6.5184 ms 
my_dot(a, b) =  2501072.5817
loop version duration: 2430.3420 ms 

矩阵

矩阵是一个二维阵列，里面的元素都是同一类型的。一般用大写黑体字母表示。用两个下标m,n表示，m表示行数，n表示列数。通过两个下标可以访问指定的元素

矩阵操作

创建矩阵

与创建向量的方法一样，只是这里的参数要换成元祖

a = np.zeros((1, 5))
print(f"a shape = {a.shape}, a = {a}")

a = np.zeros((2, 1))
print(f"a shape = {a.shape}, a = {a}")

a = np.random.random_sample((1, 1))
print(f"a shape = {a.shape}, a = {a}")

# 2.创建指定元素的矩阵
a= np.array([[5],
             [4],
             [3]])
print(f" a shape = {a.shape}, np.array: a = {a}")

矩阵的操作

# 3.矩阵的操作
# 3.1 下标访问
# reshape 是一种比较方便的方法创建矩阵,
a = np.arange(6).reshape(-1, 2) #reshape(-1,2) 表示生成一个6/2行，2列的矩阵，也就是3行两列的矩阵
print(f"a.shape:{a.shape},\na={a}")
# 访问一个元素
print(f"\na[2.0].shape:{a[2:0].shape},a[2,0]={a[2:0]}, type(a[2,0])={type(a[2,0])} Accessing an element returns a scalar\n")
# 访问一行
print(f"a[2].shape:{a[2].shape},a[2] = {a[2]},type(a[2]) = {type(a[2])}")

# 3.2切片访问
a = np.arange(20).reshape(-1, 10)
print(f"a=\n{a}")

# 访问一行中5个连续的元素(start:stop:step)
print("a[0,2:7:1]=",a[0, 2:7:1], "a[0,2:7:1].shape=", a[0, 2:7:1].shape, "a-1D array")

# 访问两行中5个连续的元素(start:stop:step)
print("a[:, 2:7:1] = \n", a[:, 2:7:1], ",  a[:, 2:7:1].shape =", a[:, 2:7:1].shape, "a 2-D array")

# 访问矩阵所有元素
print("a[:,:] = \n", a[:,:], ",  a[:,:].shape =", a[:,:].shape)

# 访问一行中的所有元素，方法1
print("a[1,:] = ", a[1,:], ",  a[1,:].shape =", a[1,:].shape, "a 1-D array")
# 访问一行中的所有元素，方法2
print("a[1]   = ", a[1],   ",  a[1].shape   =", a[1].shape, "a 1-D array")