特征或属性空间:由特征张成的维----空间----即属性/特征空间
这里的维:有几个特征就有几个维度,在这里就是4个特征张成空间
在空间中,构成特征/属性向量----组成特征或属性空间中的样本点(行):即一行数据对应一个属性/特征向量----多个属性/特征向量组成多个点构成的空间----一个特征/属性向量中的一个维度(一个点中的一个轴的值)的值是特征/属性值。
在这个例子中,现在假设将前120个样本作为训练集,
训练集:x(特征)和y(类别标签)共同构成。
x到y的过程(加上算法)就是训练模型的过程,
对二分类问题
1.准确率Accuracy=TP+TN/ALL
2.精确率Precision=TP/(TP+FP)
3.召回率=真正率TPR(true positive rate)=TP/(TP+FN)
4.假正率FPR(False negative rate)=FP/(FP+TN)
5.衡量精确率和召回率之间的差距:F1-Score(F1值):精确率和召回率的调和平均
F1-Score(F1值)=2/([1/pre+1/recall])=2*pre*recall/(pre+recall)
6.ROC(受试者工作曲线):可以描绘二分类问题。
要表达准确率如何要用到ROC的指标AUC(Area under Curve),AUC在[0,1]之间。
利用分类的真正率和假正率绘制图像取值都在0–1之间
auc=0.5,是随机产生的分类结果。auc>0.5,说明分类结果还行,auc<0.5,说明分类结果很差不可取。
主要区别在于标签列,例子1中,是简单的二分类问题,例子2不是二分类问题。
根据类别标签列是否是连续的,将其分为两个:1,分类,2,回归
预测值是离散值,分类。预测值是连续值,回归。
在没有样本标签的情况下,对样本点进行分类:利用特征之间的相似性/相异性进行分组/分类。
通过降低维度使处理的复杂度降低。
将高维降到低维,不是简单删除掉一个特征,而是新的的特征综合了之前的特征形成了新的特征,叫特征的降维,而把删除掉一个特征,叫做特征选择
聚类:在没有类别标签的情况下,根据特征相似性或相异性进行分类
特征选择:根据算法将高维特征降低到低维特征,新的低维度特征不具备可解析性。区别于特征选择:仅是在全部特征中选择部分特征。
1.半监督学习是一部分有类别标签,一部分没有类别标签。
半监督学习也是将无类别标签数据转化为有类别标签数据,即转化为监督学习的方式。
2.将无类别标签数据转化为有类别标签数据的方法分为:主动学习和其他。
主动学习:专家给无类别标签数据标记标签(人为影响大)。
其他(就是下面的两种):通过聚类方法给无类别标签数据标记标签2种方式。
3.将半监督学习分为:
(纯)半监督学习:未标记数据都标记上,作为训练数据
直推学习:未标记数据作为测试数据。
Agent:代理人,代理商,代理,此处作为:智能体
reward:奖赏,报酬,奖励,回报
强化学习解决连续决策的问题,一个agent通过一个action作用到environment上面,通过发生改变,environment反馈给agent一个reward,一个闭环的系统最终给出了连续的决策。
深度学习(特征)------>强化学习(连续)-------->迁移学习(适应)
1.小数据集:两个相关领域
2.个性化:
监督学习有结果标签,是明确指向性的学习。
无监督学习是单纯对数据的特征进行聚类、降维,由数据驱动
强化学习介于监督学习和无监督学习之间,没有明确的结果标签,但是可以和环境进行交互,得到反馈结果。
* 机器学习模型=数据+算法+策略
* 模型学习模型=模型+算法+策略
决策函数:直接盘定A属于类别1
条件概率函数:输出结果为概率大小,即A属于类别1的概率大小
解析解算法:我们所通用的
先求导,获得驻点,驻点把x区间分成几个区域,然后先下降后上升,是极小值,先上升后下降,是极大值。
优化算法:机器学习领域
计算机不能作解析解算法。计算机用求解0点二分法:用逼近的思想
先找到点a和点b,在(a,b)之间,f(a)*f(b)<0,说明存在0点,如f©=0.
接着找到点(a+b)/2和b点,判断f((a+b)/2)*f(b)<0?如果<0,那么在点(a+b)/2和b点之间存在点c,使得f©<0。
用这种方式逐渐逼近0点。
期望难以计算,所以引出经验风险来替代损失函数–期望
求解时会遇到一些问题:如果模型发生过拟合,就要加上正则项降低模型复杂度,即加上正则罚项,引出结构风险