斯坦福cs231n计算机视觉训练营----（10.8/10.9任务学习笔记）

深度学习绪论视频笔记：

1.机器学习是在特定的场景中，期望算法能够像人一样，自动给出我们想要的输出，不需要我们编写一些特定的规则。

2.传统机器学习和深度学习的最大的区别是前者用人工提取的特征来表述数据，然后运用对领域的特定知识进行手动提取；而后者用机器提取的特征来表述数据，并且自动提取内在特征。

3.深度学习的优点是能够实现端到端的模型，中间减少人为的参与。

4.深度学习目前比较活跃的四大领域：计算机视觉、自然语言处理、语音识别、机器人决策。

5.应用场景举例：

1）图像分类：任意给一张图片，自动打一个标签，如微信小程序 猜画小歌。

2）目标检测：不仅要知道图片是什么类型，还需要知道图片中的每个物体所在的位置。出框，打标签。

3）语义分割：语义是指图片中不同的物体所代表的不同的含义。语义分割即为输入一个图片，输出每一个像素点的标签，即为给每一个像素点分类。

4）自然语言处理：文本分类，自动生成文本摘要，机器翻译，问答系统，人机对话，图片字幕（计算机视觉与自然语言处理结合）。

5）end to end自动驾驶。

6）AlphaGo:强化学习，具有决策能力。

6.机器学习算法分为：传统机器学习算法（血糖值、房价预测）、深度学习（NLP、CV、无人驾驶）、强化学习（AlphaGo、End to end）等。

7.get hands dirty，just do it。

8.该训练营分五个阶段：

深度学习基础：

第一阶段：k近邻和线性分类器              SVM和softmax分类器

第二阶段：神经网络和梯度下降             卷积神经网络

第三阶段：训练神经网络1                       训练神经网络2

深度学习应用：

第四阶段：深度学习在NLP中的应用         目标检测和分割

第五阶段：生成对抗网络（学术界大热）   强化学习

总结目前工业界最需要什么样的人，以便对未来有一个清晰地定位：

1.从今年校招来看，机器学习等算法岗位应届生超多，竞争激烈，未来 3-5 年机器学习相关就业会达到饱和吗？

现在机器学习，人工智能相关工作的泡沫很大，等投资者不想投资了，公司看开了，不需要白花钱养这么多AI从业者的时候，这个工作岗位就饱和了，三年的时间足够了。

觉得三五年之后，完善的算法岗校招制度会建立，那些只会背数学公式，背蓝皮书的人一定会被淘汰，但是打心里热爱这份工作，保有激情，不但会写算法代码，也会写工程代码的人是经得起时间打磨的。

建议求职算法工作的同学一定不能忘记锻炼自己的工程代码。

2.2019 秋招的 AI 岗位竞争激烈吗？

现阶段的AI，尤其是Deep Learning，某种程度上是一个易上手难精通的东西。网络上有丰富的电子书、公开课、blog、code等资源可以帮助一个人入门DL，但看过一篇blog->看过原paper->跑过原code->通读过原code->从零复现过原paper，仅仅到这里，这个人和一开始就已经完全是两个水平了。而大多数人还没到这里就已经被淘汰掉了。

一线公司需要的是能快速跟进业界新方法，并能根据产品线作出针对性改进的人。想达到这个能力，可能要阅读>50篇paper打底，且要么在实验室里扎扎实实地跑过一两年的实验，要么在公司里扎扎实实地锻炼半年以上。

3.论算法工程师首先是个工程师之深度学习在排序应用踩坑总结 

1. 对比传统模型，深度学习更需要大量的数据去学习，样本数据的增加能明显的改善模型的结果。
2. 在初期，请忘记paper里面各式各样的奇技淫巧。一套有效的方案，其效果是多和少的问题，不是有和无的问题。好好调参，比乱试各种论文idea有效。
3. 深度学习真的可以自称调参炼丹师，所以比别人试的更快，是炼丹师的核心竞争力。
4. Embedding太神奇，请把主要精力花在这里，深度模型对id的理解可以震惊到你。
5. 关心你的模型的计算效率，最终还是要上线的，绕不过去的性能问题。

1. 信念的来源：这个其实是很重要的，一个项目，搞个一年半载的，中间没有什么明确的产出，老板要kpi，旁边的同事刷刷的出效果，靠什么支持你去坚持继续填坑，只有对理论认知的信念。
2. 假设总是很美好，现实数据很残酷，左脸打完打右脸，啪啪啪的响。怎么一步步的接近真实，解决问题，靠的还是对理论的理解，特别是结合业务的理论理解。

工程和理论的关系就有点像，理论起到是指路者的作用，而工程是你前进道路上披荆斩棘的利刃。没有理论就没有方向，没有编码能力，就只能当个吃瓜群众，二者缺一不可。