吃瓜教程 [西瓜书]任务打卡 Task1: 第一章

吃瓜教程 [西瓜书]任务打卡 Task1: 第一章

我是通过大数据挖掘竞赛入门机器学习, 在此前并没有系统地学过基础理论, 做的工作比较多的是通过复现大佬在kaggle, 天池上的教程, 调包实现编程的求解.

因此, 我这次通过参与DataWhale组织的七月组队学习计划, 系统性地学习一遍关于统计学习, 机器学习算法相关的基础理论, 在此做关于我学习打卡的笔记, 希望为自己打下一个良好的基础.

第一章: 绪论

前沿及绪论部分大多是在讲机器学习的历史, 发展,我摘要出一些我学习过程中注意到的一些点和思考

• 学习的定义(和统计学习方法差不多)->只要性能在不断改善的过程, 它就是在学习

• 学到的关于数据潜在的规律, 称为假设

• 科学推理的两大基本手段-归纳(induction)和演绎(deduction), 从样例, 样本中学习, 这显然是一个归纳学习的过程

• 通过数据学得的假设, 一般都会有归纳偏好

• NFL定理: 未知真实目标f的情况下, 所有算法的期望(平均性能)是一样的, 即学习的效果与算法无关 而真实世界中一旦给定了具体问题了, f就相当于确定了下来, 此时一定是对某个算法是有偏好性的

  (-> 做问题要多使用不同的模型, 不同的神经网络架构, 利用计算机的性能找出这个问题偏好的算法, 任何算法一定有其偏好的问题, 任何问题一定有其偏好的算法)

• 机器学习(同AI)的发展历程: 从对知识推理(专家系统)到现在的对数据进行学习

• 三大学派: 符号主义, 连接主义(仿生学派), 行为主义(进化主义, 控制论学派)

• 机器学习已经无处不在, 数据分析是机器学习的舞台

• 重要的国际学术会议: ICML, NIPS, COLT, ECML, ACML等等

• 重要的期刊:Journal of Machine Learning Research, Machine Learning等等