面试准备篇之算法岗

面试准备篇之算法岗

  • 简介
  • 一、语言基础知识准备
    • (一) C++
    • (二) Python
      • 基础教程
      • python parser模块
    • (三) Pytorch
    • (四) Tensorflow
  • 二、算法与数据结构基础知识准备
    • (一)刷题专栏
      • 剑指offer专题
      • leetcode专题
      • BFS和DFS专题
      • 动态规划之背包专题
    • (二)算法基础
      • 排序算法
    • (三)数据结构基础
      • 树结构
  • 三、计算机网络和操作系统基础知识准备
  • 四、线性代数和概率论基础知识准备
  • 五、机器学习基础知识准备
  • 六、深度学习基础知识准备
    • 1、基础知识
    • 2、梯度消失和梯度爆炸
    • 3、过拟合与欠拟合
    • 4、CNN pooling层、Dropout算梯度反向更新参数(顺便思考一下deformable conv怎么实现的)
      • pooling层
      • Dropout
    • 5、深度学习中的归一化问题 (BatchNorm)
    • 6、数据集的归一化与标准化的原因与方法?
      • 原因
    • 7、深度学习优化器:梯度更新规则+缺点+如何选择
      • (1)BGD, SGD
      • (2)Momentum
      • Adaptive Gradient
      • (1)Momentum和Adaptive Gradient的差别?
    • 8、偏差(bias)和方差 (variance)
    • 9、1*1卷积有什么作用?
  • 七、计算机视觉
    • 目标检测
      • rcnn, fast-rcnn, faster-rcnn

简介

在这里记录自己准备找工作的历程,接下来的半年会根据自己的学习和成长来更新。。。

一、语言基础知识准备

(一) C++

C++入门教程,C++基础教程《C++小白变怪兽》

  1. 第一章 从C到C++

(二) Python

基础教程

廖雪峰Python

python parser模块

parser模块

(三) Pytorch

(四) Tensorflow

二、算法与数据结构基础知识准备

(一)刷题专栏

剑指offer专题

leetcode专题

BFS和DFS专题

动态规划之背包专题

(二)算法基础

排序算法

  1. 选择排序(selectionsort)

(三)数据结构基础

树结构

  1. 二叉查找树之C++实现
  2. 二叉查找树之删除节点
  3. 红黑树(一)之小白入门

三、计算机网络和操作系统基础知识准备

四、线性代数和概率论基础知识准备

五、机器学习基础知识准备

六、深度学习基础知识准备

1、基础知识

(1)DenseNet和ResNet的对比

2、梯度消失和梯度爆炸

(1)方案1-预训练加微调
(2)方案2-梯度剪切、正则
(3)方案3-relu、leakrelu、elu等激活函数
(4)方案4-batchnorm
(5)方案5-残差结构
(6)方案6-LSTM
参考链接1
参考链接2
深入理解L1、L2范数

3、过拟合与欠拟合

4、CNN pooling层、Dropout算梯度反向更新参数(顺便思考一下deformable conv怎么实现的)

pooling层

无论max pooling还是mean pooling,都没有需要学习的参数。因此,在卷积神经网络的训练中,Pooling层需要做的仅仅是将误差项传递到上一层,而没有梯度的计算。
(1)max pooling层:对于max pooling,下一层的误差项的值会原封不动的传递到上一层对应区块中的最大值所对应的神经元,而其他神经元的误差项的值都是0;
(2)mean pooling层:对于mean pooling,下一层的误差项的值会平均分配到上一层对应区块中的所有神经元

Dropout

Dropout详解1

5、深度学习中的归一化问题 (BatchNorm)

归一化问题详解1

6、数据集的归一化与标准化的原因与方法?

原因

(1)从寻找最优解的角度分析
数据集归一化的原因与方法

在训练模型之前,需要对特征进行一定的处理,最常见的处理方式之一就是数据的规范化。数据的规范化的作用主要有两个:去掉量纲,使得指标之间具有可比性;将数据限制到一定区间, 使得运算更为便捷。归一化就是典型的数据规范化方法,常见的数据规范化方法如下:
1、线性函数归一化(Min-Max scaling)
2、0均值标准化(Z-score standardization)
0均值归一化方法将原始数据集归一化为均值为0、方差1的数据集([0, 1]范围)。

7、深度学习优化器:梯度更新规则+缺点+如何选择

(1)BGD, SGD

BGD, SGD, MBGD详解
几种梯度下降方法对比

(2)Momentum

面试准备篇之算法岗_第1张图片
η : \eta: η: 学习率
ρ : \rho: ρ:momentum

Adaptive Gradient

(1)Momentum和Adaptive Gradient的差别?

8、偏差(bias)和方差 (variance)

9、1*1卷积有什么作用?

七、计算机视觉

目标检测

rcnn, fast-rcnn, faster-rcnn

你可能感兴趣的:(C++,机器学习,深度学习,算法与数据结构,python,机器学习,深度学习,C++,算法与数据结构,python)