机器学习入门——数学基础1

机器学习数学基础

1. 线性代数和微积分基础

  • 基础公式
  • 矩阵计算
  • 微分法则
  • 导数公式

(1)向量
向量的范数——具有“长度”概念的函数
1范数:每个维度的绝对值之和
在这里插入图片描述
2范数:即向量的模
在这里插入图片描述
无穷范数:各维度的最大值
在这里插入图片描述
向量的点积:
机器学习入门——数学基础1_第1张图片
(2)矩阵
机器学习入门——数学基础1_第2张图片
矩阵的乘法——点积和元素积
点积
机器学习入门——数学基础1_第3张图片
矩阵的转置
机器学习入门——数学基础1_第4张图片
(3)最大化参数
机器学习入门——数学基础1_第5张图片
(4)微分(导数)
机器学习入门——数学基础1_第6张图片
2. 统计学和概率论基础

  • 条件概率
  • 全概率公式

3. 优化方法基础

  • 范数
  • 拉格朗日乘子法
  • KKT条件

4. 信息论基础

  • 信息熵
  • 条件熵
  • 互信息

你可能感兴趣的:(机器学习,机器学习,概率论)