机器学习资料整理

ML&DL

Book

• The fastai deep learning library
  入门导师，带我走进了机器学习的世界

• Coursera-ML-AndrewNg-Notes
  吴恩达老师的机器学习课程个人笔记, "小时候”也是听吴恩达老师课程过来的， 感恩

• 《神经网络与深度学习》 邱锡鹏著 Neural Network and Deep Learning

• Deep Learning 中文翻译
  花书的中文翻译本，太厚了，慢慢啃吧

• 【机器学习实战】第二期-教学版本
  机器学习实战，解说+源代码

• 深度学习
  作者在学习过程中，收集的一些经典论文+博文

• machine learning note
  一个特别喜欢看论文的博主，不看论文，git clone是对知识和理论的一种藐视，从书籍的目录大纲来看，博主涉略的机器学习领域非常广，想想自己3-5年了还在1-2个领域打滚。

• Classic-ML-Methods-Algo
  博主梳理和总结传统机器学习(Machine Learning)方法(methods)或者算法(algo)，研读。

• CVPR 2022 论文和开源项目合集(Papers with Code)

• 周志华老师的《机器学习》西瓜书的相关资料，数学公式推导证明

• DeepLearning-500-questions 深度学习灵魂拷问，要多细有多细

• The most cited deep learning papers
  以往比较好的论文

• Awesome Machine Learning
  精选的机器学习框架、库和软件列表

• MachineLearning_Python机器学习算法python实现，线性回归，逻辑回归，k-mean等算法

Anchor Free

UnitBox: An Advanced Object Detection Network

核心点

1. 使用IOU-Loss作为位置预测的依据，证明了IOU-Loss是有效的

参考博文

• UnitBox
• UnitBox：一种新的 IoU 损失函数，把 box 当作一个整体去预测
  言简意赅，总结了L2-loss的不足，引出IOU-loss
• UnitBox详解
  总结了L2-Loss的不足，引出IOU-Loss,同时给出IOU-Loss可以用来做Loss的证明

DenseBox: Unifying Landmark Localization withEnd to End Object Detection

核心点

1. 位置预测和类别预测都采用 L2-loss
2. 正负样本制作，裁剪截取样本的方式

参考博文

• DenseBox：思想超前的早期Anchor-free研究 | CVPR 2015

YOLO系列

参考博文

• 第二卷-基于YOLO的目标检测入门教程
  博主对yolo系列的论文+代码复现研究的非常深，非常值得收藏，不断的阅读加固。

CornerNet:Detecting Objects as Paired Keypoints(2018)

核心点

1. 检测Top-Left, Bottom-right两个焦点热力图 + embedding vector.
2. 提出了corner pooling用于定位顶点
3. hourglass架构+focal loss

问题点

1. 没搞明白为什么corner pooling是有效的。
2. 确实没有读懂论文，略有难处

参考博文

• 【Anchor free】CornerNet 网络结构深度解析（全网最详细！）
• 【Anchor free】CornerNet损失函数深度解析（全网最详细！）
  结合代码细说了理论，但还是看不懂
• CornerNet：目标检测算法新思路
  整体上介绍了CornerNet论文的核心点，没有细说

FCOS: Fully Convolutional One-Stage Object Detection(ICCV 2019)

核心点

1. 去anchor，以像素点到四条边界的距离作为监督信息
2. 多尺度FPN，解决密集目标物体的重叠问题
3. 类别预测+位置预测+center-ness，center-ness可以过滤掉很多质量差的框
4. 借鉴UnitBox中的IOU-Loss，作为位置预测的Loss
5. 在gt框内的像素点，都可以作为正样本，相比于anchor-base，正样本数量提升非常大

问题点

1. 对不同的GT框，用尺度限制，让他们落在对应的特征图上，当然也有可能一个GT框，多个特征图都会去检测它，但大部分的GT框已经被分治
2. center-ness，距离中心点比较远的点，值趋向于0，对于判断一个框的质量，是非常好的依据

参考博文

• 《目标检测》-第9章-anchor-free的回归之作：FCOS
  讲解详细，多品读

CenterNet: Keypoint Triplets for Object Detection (ICCV 2019)

核心点

1. Keypoint-based Detection,在CornerNet的基础上做改进
2. 采取三元组关键点(左上点、右下点和center point)
3. center pooling，给中心区域(central regions)提供了更有辨识度的信息
4. cascade corner pooling，来增强左上corner和右下corner的信息

问题点

1. 论文和另一篇文章冲突了，都叫CenterNet，这篇论文应该叫Corner-CenterNet更合适一些，亮点不多，还是看CenterNet：Object as points(2019)

参考博文

• 看了几篇论文，看不动，也没多少人去解读这个论文，估计价值含量太低了吧

CenterNet: Objects as Points (2019)

核心点

1. 热力图，关键点偏移，wh回归

问题点

1. 这篇文章，值得研究一下源代码

参考博文

• 《目标检测》-第10章-anchor-free之CenterNet的浅析与实现
  解读清晰，特别优秀的以为博主，讲yolo系列最精彩，讲到Object as point这篇论文，也有独特的见解
• 《目标检测》-第23章-CenterNet-plus
  在前篇的基础上，作者针对backbone做了增量式提升
• 重读 CenterNet，一个在Github有5.2K星标的目标检测算法
• 【Anchor Free】CenterNet的详细解析

Keypoint-based Detection

CornerNet

ExtremeNet

CenterNet

CenterNet(Object as Point)

CSP

CornerNet-Lite

RepPoints

CentripetalNet

SaccadeNet

RepPointsV2

CPNDet

损失函数

• 目标检测中的常用损失函数
  梳理和总结传统机器学习(Machine Learning)方法(methods)或者算法(algo)

• Distance-IoU Loss: Faster and Better Learning for Bounding Box Regression

  • https://mp.weixin.qq.com/s/ZbryNlV3EnODofKs2d01RA
    关于IoU系列损失更详细的分析可以参考论文

-目标检测回归损失函数简介：SmoothL1/IoU/GIoU/DIoU/CIoU Loss
一篇很好的博文，是介绍目标检测中的损失函数的

-目标检测常用损失函数-类别损失+位置损失

机器学习相关资料

• Classic-ML-Methods-Algo