李宏毅-2023春机器学习 ML2023 SPRING-学习笔记:3/3 机器学习基本概念介绍

目录

  • 3/3 机器学习基本概念介绍
    • 快速了解機器學習基本原理
    • 生成式學習的兩種策略:要各個擊破,還是要一次到位
    • 能夠使用工具的AI:New Bing, WebGPT, Toolformer
    • Brief Introduction of Deep Learning
    • Gradient Descent
    • Backpropagation
    • 卷積神經網路 (CNN)
    • 自注意力機制 (Self-attention) (下)

3/3 机器学习基本概念介绍

快速了解機器學習基本原理

机器学习 ≈ 机器自动寻找一个函数f

例如:
chatGPT:输入:“什么是机器学习”通过函数f,输出:“机”
Midjournery:输入:一只可爱的猫,通过函数f,输出:一张猫猫图片
李宏毅-2023春机器学习 ML2023 SPRING-学习笔记:3/3 机器学习基本概念介绍_第1张图片

根据函数的输出可以分为两类:Regression(回归)与Classification(分类)

  • Regression:函数的输出是一个数值
    例如:输入输入今天的PM2.5值、温度、臭氧量等,输出明天的PM2.5值
  • Classification:函数的输出是一个类别(选择题)
    例如:判断一封邮件是否为垃圾邮件

机器学习不断发展不再局限于上述分类,而是变为了更加复杂的Structured Learning

  • Structured Learning:结构化学习,又称为Generative Learning生成式学习,生成有结构的物件(如影像、文句等)(联想:生成式学习就像是全职猎人里的暗黑大陆(乐)

chatGPT属于哪类?:把生成式学习拆解成多个分类问题

寻找函数的三步骤
【前置作业】决定要找什么样的函数?(无关技术,取决于要做的应用)
(先放总结)
李宏毅-2023春机器学习 ML2023 SPRING-学习笔记:3/3 机器学习基本概念介绍_第2张图片

展开来讲:

  • Step1:选定候选函数的集合Model
    深度学习中类神经网络的结构(如:CNN、RNN、Transformer等等)指的就是不同的候选函数集合,函数集合表示为H
    李宏毅-2023春机器学习 ML2023 SPRING-学习笔记:3/3 机器学习基本概念介绍_第3张图片
    目的:缩小选择的范围;技巧性强
    训练资料少时,L(f)小但测试差的函数就会多,这个时候画出集合范围要保守(小);反之测试数据多时,上述L(f)小但测试差的函数就会少
    涉及的拓展知识:Convolutional Neural Network,CNN、Self-attention……

  • Step2:订出评价函数优劣的标准
    使用函数Loss函数,将f做出输入,输入L函数:L(f),根据输出的大小,评价函数(越大越差)
    L的计算过程取决于training data
    常用方法:supervised Learning(全部都有标准答案),semi-supervised Learning(没有标准答案,要定义评量标准),RL(reinforcement Learning)等等
    李宏毅-2023春机器学习 ML2023 SPRING-学习笔记:3/3 机器学习基本概念介绍_第4张图片

  • Step3:找出最好的函数,最佳化Optimization
    在这里插入图片描述
    将集合H中的所有函数带入L中,寻找Loss最小值
    常用方法:Gradient Descent(Adam,AdamW…),Genetic Algorithm等等
    李宏毅-2023春机器学习 ML2023 SPRING-学习笔记:3/3 机器学习基本概念介绍_第5张图片
    超参数:手调参数

【注意】有时候每一步在选择方法时并不会选择所谓的“最优解”,原因是因为选择的方法的好是 能支援其他步骤
例如:在“设定范围“时,选择Residual Connection,虽然框选出的范围较大,但能在“达成目标”这步时选出真正最好的函数
李宏毅-2023春机器学习 ML2023 SPRING-学习笔记:3/3 机器学习基本概念介绍_第6张图片

生成式學習的兩種策略:要各個擊破,還是要一次到位

生成式学习:生成有结构的复杂物件
李宏毅-2023春机器学习 ML2023 SPRING-学习笔记:3/3 机器学习基本概念介绍_第7张图片
策略一:各个击破AR(Autoregressive Model)
李宏毅-2023春机器学习 ML2023 SPRING-学习笔记:3/3 机器学习基本概念介绍_第8张图片

策略二:一次到位NAR(Non-autoregressive Model)
李宏毅-2023春机器学习 ML2023 SPRING-学习笔记:3/3 机器学习基本概念介绍_第9张图片

怎么保证生成固定长度的文字?
法一:若100个字前没出现终止符,直接截断
法二:先决定输出100个字,再输出
李宏毅-2023春机器学习 ML2023 SPRING-学习笔记:3/3 机器学习基本概念介绍_第10张图片
两个方式比较

  • AR:速度慢,答案质量好,适合生成文字
  • NAR:速度快,答案质量较差,适合生成图像

P.s.生成影像常用NAR的原因是:影像像素过多,AR太慢

结合两个方法(取长补短)

  • 以语音合成为例:生成分为两个阶段,AR决定大方向,NAR生成最后产物
    李宏毅-2023春机器学习 ML2023 SPRING-学习笔记:3/3 机器学习基本概念介绍_第11张图片

  • 将“一次到位”改为“N此到位”(类似Diffusion Model)
    李宏毅-2023春机器学习 ML2023 SPRING-学习笔记:3/3 机器学习基本概念介绍_第12张图片

能夠使用工具的AI:New Bing, WebGPT, Toolformer

New Bing是有搜寻网络的,但什么时候进行搜寻是由机器自己决定的
李宏毅-2023春机器学习 ML2023 SPRING-学习笔记:3/3 机器学习基本概念介绍_第13张图片

没有相关论文,但有类似的WebGPT,论文地址: https://arxiv.org/abs/2112.09332

  • WebGPT回答生成过程:
  1. 输入”Which river is longer, the Nile or the Yangtze?”(翻译:拿一条河比较长,尼罗河还是扬子江?)
  2. WebGPT:提取关键字(如:”Nile vs Yangtze”、”nile length”、”Yangtze length”)
  3. 对关键字经行网络搜索,根据算法对搜索网页资料的部分段落进行收藏(注意只收藏文字段落,而不是整个网页)
  4. 整理生成答案(答案后会附上引用的网址)
    李宏毅-2023春机器学习 ML2023 SPRING-学习笔记:3/3 机器学习基本概念介绍_第14张图片

Toolformer:學習使用工具的 AI,可以使用多種不同的工具(如搜索网络、计算机、翻译等)
李宏毅-2023春机器学习 ML2023 SPRING-学习笔记:3/3 机器学习基本概念介绍_第15张图片

如何在没有人类示范的情况下生成大量资料?
方法一:用另一个语言模型产生资料;方法二:验证语言模型生成的结果
使用Toolformer的结果
李宏毅-2023春机器学习 ML2023 SPRING-学习笔记:3/3 机器学习基本概念介绍_第16张图片

LAMA、Math Benchmarks、QA Benchmarks:data Set,问答资料集
橙线:测试时不允许呼唤API(使用工具)(保证实验的严谨性)

Brief Introduction of Deep Learning

先附上大致的时间线
李宏毅-2023春机器学习 ML2023 SPRING-学习笔记:3/3 机器学习基本概念介绍_第17张图片

简述,来自:https://blog.csdn.net/zyuPp/article/details/99288909
1958年:人们感觉人工智能要来了,因为linear model的出现,它可以做到一些稍微复杂的分类和预测问题,当时他们也叫这个技术为Perceptron,感知器
1969年:有人终于发现了linear model有缺点,研究了一下为什么“坦克与卡车”的图像分类为什么如此精确,原来是因为两组图片的拍照时间不一样,而机器是通过其亮度作为特征来分类的
1980年代:多层感知机MLP,尝试使用多层的感知机(与现在的deep learning基本没有差别)
1986年:出现了反向传播,但是发现超过3层就不太有用了
1989年:有人认为,一个隐藏层就足够成为任何的function,这段时间多层感知机被各种嫌弃,所以人们才给它换了个名字,就是深度学习
2006年:RBM initialization被认为是大突破,这个非常复杂,用于梯度下降初始化值,最后发现复杂但是没啥用
2009年:知道要用GPU来加速深度学习的模型训练
2011年:被用在语音辨识中,发现很好用
2012年:赢得了ILSVRC图像比赛,做图像的人也开始用Deep Learning(著名的AlexNet)

深度学习的三步骤:
Step1:define a set of function (function即Neural Network)
Step2:goodness of function
Step3:pick the best function

李宏毅-2023春机器学习 ML2023 SPRING-学习笔记:3/3 机器学习基本概念介绍_第18张图片

logistics regression将其连接,一个逻辑回归称为Neuron神经元,
不同的方法连接Neural Network就得到不同的结构structure,
每个logistics regression都有属于自己不同的weight权重,和bias偏移量,
weight和bias的集合称为network的函数θ

将neuron连接起来的方式有很多种(手动连接),其中

Fully Connect Feedforward Network(完全连接前馈神经网络)是最常见的
用一个最简单的示意图说明

两个输入:1,-1;6个neuron,两个一列
每个neuron都有一组weight和bias,例如蓝色(上)的weight是1与-2,bias是1
则1与-1输入后得输出为4,4通过sigmoid函数(为了将数值映射至0-1)得0.98

李宏毅-2023春机器学习 ML2023 SPRING-学习笔记:3/3 机器学习基本概念介绍_第19张图片

反复进行上述运算
李宏毅-2023春机器学习 ML2023 SPRING-学习笔记:3/3 机器学习基本概念介绍_第20张图片

上述就是一个function,如果用向量来表示输入输出,则可得
在这里插入图片描述

但如果是不知道参数(weight & bias),则称为一个function set
一般化一个network的示意图
李宏毅-2023春机器学习 ML2023 SPRING-学习笔记:3/3 机器学习基本概念介绍_第21张图片

大家关于”Deep”的定义各不相同(多少层算Deep呢)一些著名的Deep Network
李宏毅-2023春机器学习 ML2023 SPRING-学习笔记:3/3 机器学习基本概念介绍_第22张图片
李宏毅-2023春机器学习 ML2023 SPRING-学习笔记:3/3 机器学习基本概念介绍_第23张图片

Matrix operation矩阵运算神经网络
将上述例子用矩阵运算表示(能提高大型运算的效率和速度)
李宏毅-2023春机器学习 ML2023 SPRING-学习笔记:3/3 机器学习基本概念介绍_第24张图片

则整个neural network的运算可以等同于一连串的matrix操作
李宏毅-2023春机器学习 ML2023 SPRING-学习笔记:3/3 机器学习基本概念介绍_第25张图片

network通过hidden Layers(隐藏层)来提取特征,替代了原来的特征工程(即手动选择特征),在隐藏层最后一层输出的就是新的特征,而输出层就拿着这些新的特征作为输入,通过一个多分类器(softmax函数),得到最后输出y
李宏毅-2023春机器学习 ML2023 SPRING-学习笔记:3/3 机器学习基本概念介绍_第26张图片

【举个例子:识别手写数字2】
输入一张16×16(256)像素大小的图片:输入维数为256(x1 ~ x256)
输出手写数字的数值0~9:输出维数为10(y1 ~ y10,输出y1表示数值为1,以此类推)
李宏毅-2023春机器学习 ML2023 SPRING-学习笔记:3/3 机器学习基本概念介绍_第27张图片

Step1:Neural Network
设计示意图如下
李宏毅-2023春机器学习 ML2023 SPRING-学习笔记:3/3 机器学习基本概念介绍_第28张图片

红色框中表示一个function set,其中每一个function都能用于做手写数字识别,只是有优劣差异
接下来的工作就是使用gradient descent,寻找一个最合适的function
最关键的是设计neural network的结构structure

Q&A
Q:怎么决定network的层数和neuron的数量?
A:不断尝试+直觉的
p.s. DL让我们从手动提特征转化到设计网络结构
很难去定义一个好的,合适的特征,倒不如让机器自己去尝试,再让人去选择,例如对于语音识别和影像识别,深度学习是个好的方法,因为特征工程提取特征并不容易
Q:能否自动设计结构?
A:进化人工神经网络(Evolutionary Artificial Neural Networks)但是这些方法并不是很普及
Q:可以自己设计网络结构吗?
A:可以。CNN就是不错设计结构,卷积神经网络

Step2:定义Loss函数
例如输入手写数字“1”,得到一组十维限量输出yi(理想输出是y^ 1000000000)
计算y与y^的Cross Entropy(交叉熵),手动调整参数,以求得C的最小值
李宏毅-2023春机器学习 ML2023 SPRING-学习笔记:3/3 机器学习基本概念介绍_第29张图片
李宏毅-2023春机器学习 ML2023 SPRING-学习笔记:3/3 机器学习基本概念介绍_第30张图片

其余的training data同理,输入后计算Cost,
将每一个function的Cost求和,得Loss值,
去除function set 中Loss值最小的function即可

Step3:寻找最优function
(我们的老朋友)Gradient descent
李宏毅-2023春机器学习 ML2023 SPRING-学习笔记:3/3 机器学习基本概念介绍_第31张图片

当计算量很大,以及计算很复杂时,我们也不会自己去计算,而是通过一些toolkit去计算
李宏毅-2023春机器学习 ML2023 SPRING-学习笔记:3/3 机器学习基本概念介绍_第32张图片

有一个通用理论:对于任何一个连续的函数,都可以用足够多的隐藏层来表示。(若为真是否只需一层网络即可,deep只是噱头)
李宏毅-2023春机器学习 ML2023 SPRING-学习笔记:3/3 机器学习基本概念介绍_第33张图片

Gradient Descent

Backpropagation

卷積神經網路 (CNN)

自注意力機制 (Self-attention) (下)

你可能感兴趣的:(李宏毅机器学习ML,2023,Spring,-,学习笔记,机器学习,学习,笔记)