【机器学习】机器学习进阶之旅（一）

1.数学

数学是学不完的，也没有几个人能像博士一样扎实地学好数学基础，入门人工智能领域，其实只需要掌握必要的基础知识就好。AI的数学基础最主要是高等数学、线性代数、概率论与数理统计三门课程，这三门课程是本科必修的。这里整理了一个简易的数学入门文章。

数学基础：高等数学 https://zhuanlan.zhihu.com/p/36311622

数学基础：线性代数 https://zhuanlan.zhihu.com/p/36584206

数学基础：概率论与数理统计 https://zhuanlan.zhihu.com/p/36584335

机器学习的数学基础资料下载：

1.机器学习的数学基础.docx 中文版，对高等数学、线性代数、概率论与数理统计三门课的公式做了总结

2) 斯坦福大学机器学习的数学基础.pdf 原版英文材料，非常全面，建议英语好的同学直接学习这个材料 下载链接: https://pan.baidu.com/s/1LaUlrJzy98CG1Wma9FgBtg 提取码: hktx

推荐教材 相比国内浙大版和同济版的数学教材，通俗易懂，便于初学者更好地奠定数学基础 下载链接：https://blog.csdn.net/Datawhale/article/details/81744961

2.统计学

• 入门教材：

深入浅出统计学

• 进阶教材：

商务与经济统计

• 视频

可汗学院统计学：http://open.163.com/special/Khan/khstatistics.html

3.编程

入门人工智能领域，推荐Python这门编程语言。

1) Python安装：

关于python安装包，我推荐下载Anaconda，Anaconda是一个用于科学计算的Python发行版，支持 Linux, Mac, Windows系统，提供了包管理与环境管理的功能，可以很方便地解决多版本Python并存、切换以及各种第三方包安装问题。

下载地址：https://www.anaconda.com/download/ 推荐选Anaconda （python 3.7版本）

IDE：推荐使用pycharm，社区版免费 下载地址：https://www.jetbrains.com/

安装教程： Anaconda+Jupyter notebook+Pycharm： https://zhuanlan.zhihu.com/p/59027692

Ubuntu18.04深度学习环境配置(CUDA9+CUDNN7.4+TensorFlow1.8)： https://zhuanlan.zhihu.com/p/50302396

2) python入门的资料推荐

a.廖雪峰python学习笔记 https://blog.csdn.net/datawhale/article/category/7779959

b.python入门笔记 作者李金，这个是jupyter notebook文件，把python的主要语法演示了一次，值得推荐。 下载链接: https://pan.baidu.com/s/1IPZI5rygbIh5R5OuTHajzA 提取码: 2bzh

c.南京大学python视频教程 这个教程非常值得推荐，python主要语法和常用的库基本涵盖了。 查看地址：https://www.icourse163.org/course/0809NJU004-1001571005?from=study

看完这三个资料，python基本入门了，可以使用scikit-learn等机器学习库来解决机器学习的 问题了。

3）补充

代码规范： https://zhuanlan.zhihu.com/p/59763076

numpy练习题： https://zhuanlan.zhihu.com/p/57872490 pandas练习题： https://zhuanlan.zhihu.com/p/56644669

数据分析/挖掘

1.数据分析的基础书籍：

《利用python进行数据分析》 这本书含有大量的实践案例，你将学会如何利用各种Python库（包括NumPy，Pandas、Matplotlib以及IPython等）高效地解决各式各样的数据分析问题。如果把代码都运行一次，基本上就能解决数据分析的大部分问题了。

2.特征工程：

https://blog.csdn.net/Datawhale/article/details/83033869

3.数据挖掘项目：

https://blog.csdn.net/datawhale/article/details/80847662

机器学习

1.公开课 - 吴恩达《Machine Learning》

这绝对是机器学习入门的首选课程，没有之一！即便你没有扎实的机器学习所需的扎实的概率论、线性代数等数学基础，也能轻松上手这门机器学习入门课，并体会到机器学习的无穷趣味。

课程主页 https://www.coursera.org/learn/machine-learning

下载链接：https://pan.baidu.com/s/16065BpNAP7JEx_PpFHLSOw 提取码：xcmi

中文视频 网易云课堂搬运了这门课，并由黄海广等人翻译了中文字幕。

观看地址：https://study.163.com/course/introduction.htm?courseId=1004570029&trace_c_p_k2=d107b2ac93794ae79c941899f93332a1

中文笔记及作业代码 https://github.com/fengdu78/Coursera-ML-AndrewNg-Notes

2.公开课 - 吴恩达 CS229

吴恩达在斯坦福教授的机器学习课程 CS229 与 吴恩达在 Coursera 上的《Machine Learning》相似，但是有更多的数学要求和公式的推导，难度稍难一些。该课程对机器学习和统计模式识别进行了广泛的介绍。主题包括：监督学习（生成/鉴别学习、参数/非参数学习、神经网络、支持向量机）；无监督学习（聚类、降维、核方法）；学习理论（偏差/方差权衡；VC理论；大幅度利润）；强化学习和自适应控制。本课程还将讨论机器学习的最新应用，如机器人控制、数据挖掘、自主导航、生物信息学、语音识别以及文本和Web数据处理。

课程主页：http://cs229.stanford.edu/

中文视频

http://open.163.com/special/opencourse/machinelearning.html

中文笔记

https://kivy-cn.github.io/Stanford-CS-229-CN/#/

速查表

这份给力的资源贡献者是一名斯坦福的毕业生 Shervine Amidi。作者关于 CS229 整理了一份超级详细的速查表 https://zhuanlan.zhihu.com/p/56534902

作业代码

https://github.com/Sierkinhane/CS229-ML-Implements

3.公开课 - 林轩田《机器学习基石》

课程介绍

台湾大学林轩田老师的《机器学习基石》课程由浅入深、内容全面，基本涵盖了机器学习领域的很多方面。其作为机器学习的入门和进阶资料非常适合。而且林老师的教学风格也很幽默风趣，总让读者在轻松愉快的氛围中掌握知识。这门课比 Ng 的《Machine Learning》稍难一些，侧重于机器学习理论知识。

中文视频

https://www.bilibili.com/video/av36731342

中文笔记

https://redstonewill.com/category/ai-notes/lin-ml-foundations/

配套教材

配套书籍为《Learning From Data》，在线书籍主页：http://amlbook.com/

4.公开课 - 林轩田《机器学习技法》

课程介绍

《机器学习技法》课程是《机器学习基石》的进阶课程。主要介绍了机器学习领域经典的一些算法，包括支持向量机、决策树、随机森林、神经网络等等。难度要略高于《机器学习基石》，具有很强的实用性。

中文视频

https://www.bilibili.com/video/av36760800

中文笔记

https://redstonewill.com/category/ai-notes/lin-ml-techniques/

5.书籍 - 《机器学习》

周志华的《机器学习》被大家亲切地称为“西瓜书”。这本书非常经典，讲述了机器学习核心数学理论和算法，适合有作为学校的教材或者中阶读者自学使用，入门时学习这本书籍难度稍微偏高了一些。

这本书配合《机器学习实战》这本书，效果很好！

读书笔记

https://www.cnblogs.com/limitlessun/p/8505647.html#_label0

公式推导

https://datawhalechina.github.io/pumpkin-book/#/

课后习题

https://zhuanlan.zhihu.com/c_1013850291887845376

6.书籍 - 《统计学习方法》

李航的这本《统计学习方法》堪称经典，包含更加完备和专业的机器学习理论知识，作为夯实理论非常不错。

课讲 PPT

https://github.com/fengdu78/lihang-code/tree/master/ppt

读书笔记

http://www.cnblogs.com/limitlessun/p/8611103.html

https://github.com/SmirkCao/Lihang

参考笔记

https://zhuanlan.zhihu.com/p/36378498

代码实现

https://github.com/fengdu78/lihang-code/tree/master/code

7.书籍 - 《Scikit-Learn 与 TensorFlow 机器学习实用指南》

在经过前面的学习之后，这本《Scikit-Learn 与 TensorFlow 机器学习实用指南》非常适合提升你的机器学习实战编程能力。这本书分为两大部分，第一部分介绍机器学习基础算法，每章都配备 Scikit-Learn 实操项目；第二部分介绍神经网络与深度学习，每章配备 TensorFlow 实操项目。如果只是机器学习，可先看第一部分的内容。

全书代码

https://github.com/ageron/handson-ml

8.实战 - Kaggle 比赛

比赛是提升自己机器学习实战能力的最有效的方式，首选 Kaggle 比赛。

Kaggle 主页

https://www.kaggle.com/

Kaggle 路线

https://github.com/apachecn/kaggle

9.工具 - Scikit-Learn 官方文档

Scikit-Learn 作为机器学习一个非常全面的库，是一份不可多得的实战编程手册。

官方文档

https://scikit-learn.org/stable/index.html

中文文档（0.19）

http://sklearn.apachecn.org/#/

深度学习

1.公开课 - 吴恩达《Deep Learning》

在吴恩达开设了机器学习课程之后，发布的《Deep Learning》课程也备受好评，吴恩达老师的课程最大的特点就是将知识循序渐进的传授给你，是入门学习不可多得良好视频资料。整个专题共包括五门课程：01.神经网络和深度学习；02.改善深层神经网络-超参数调试、正则化以及优化；03.结构化机器学习项目；04.卷积神经网络；05.序列模型。

课程视频

网易云课堂：https://mooc.study.163.com/university/deeplearning_ai#/c Coursera: https://www.coursera.org/specializations/deep-learning

课程笔记

之前编写过吴恩达老师机器学习个人笔记黄海广博士带领团队整理了中文笔记 地址：https://github.com/fengdu78/deeplearning_ai_books

参考论文

吴恩达老师在课程中提到了很多优秀论文，黄海广博士整理如下： https://github.com/fengdu78/deeplearning_ai_books/tree/master/%E5%8F%82%E8%80%83%E8%AE%BA%E6%96%87

课程PPT及课后作业

吴恩达深度学习课程，包含课程的课件、课后作业和一些其他资料： https://github.com/stormstone/deeplearning.ai

2.公开课 - Fast.ai《程序员深度学习实战》

说到深度学习的公开课，与吴恩达《Deep Learning》并驾齐驱的另一门公开课便是由Fast.ai出品的《程序员深度学习实战》。这门课最大的特点便是“自上而下”而不是“自下而上”,是绝佳的通过实战学习深度学习的课程。

视频地址

B站地址(英文字幕)： https://www.bilibili.com/video/av18904696?from=search&seid=10813837536595120136 CSDN地址(2017版中文字幕): https://edu.csdn.net/course/detail/5192

课程笔记

英文笔记原文： https://medium.com/@hiromi_suenaga/deep-learning-2-part-1-lesson-1-602f73869197 由ApacheCN组织进行的中文翻译： https://github.com/apachecn/fastai-ml-dl-notes-zh

3.公开课-CS230 Deep Learning

课程介绍

斯坦福的深度学习课程CS230在4月2日刚刚开课，对应的全套PPT也随之上线。从内容来看，今年的课程与去年的差别不大，涵盖了CNNs, RNNs, LSTM, Adam, Dropout, BatchNorm, Xavier/He initialization 等深度学习的基本模型，涉及医疗、自动驾驶、手语识别、音乐生成和自然语言处理等领域。

Datawhale整理了该门课程的详细介绍及参考资料 https://mp.weixin.qq.com/s/kA-L8t5mGq6jExMBRjyg4g

4.书籍-复旦教授邱锡鹏《神经网络与深度学习》

本书是入门深度学习领域的极佳教材，主要介绍了神经网络与深度学习中的基础知识、主要模型（前馈网络、卷积网络、循环网络等）以及在计算机视觉、自然语言处理等领域的应用。 https://mp.weixin.qq.com/s/-NaDpXsxvu4DpXqVNXIAvQ

5.书籍 -《深度学习》

完成以上学习后，想要更加系统的建立深度学习的知识体系，阅读《深度学习》准没错。该书从浅入深介绍了基础数学知识、机器学习经验以及现阶段深度学习的理论和发展，它能帮助人工智能技术爱好者和从业人员在三位专家学者的思维带领下全方位了解深度学习。

书籍介绍

《深度学习》通常又被称为花书，深度学习领域最经典的畅销书。由全球知名的三位专家IanGoodfellow、YoshuaBengio和AaronCourville撰写，是深度学习领域奠基性的经典教材。全书的内容包括3个部分：第1部分介绍基本的数学工具和机器学习的概念，它们是深度学习的预备知识；第2部分系统深入地讲解现今已成熟的深度学习方法和技术；第3部分讨论某些具有前瞻性的方向和想法，它们被公认为是深度学习未来的研究重点。该书被大众尊称为“AI圣经”。

在线阅读

该书由众多网友众包翻译，电子版在以下地址获得： https://github.com/exacity/deeplearningbook-chinese

6.书籍 -《深度学习 500 问》

当你看完了所有的视频，研习了AI圣经，一定充满了满脑子问号，此时不如来深度学习面试中常见的500个问题。

书籍介绍

DeepLearning-500-questions，作者是川大的一名优秀毕业生谈继勇。该项目以深度学习面试问答形式，收集了 500 个问题和答案。内容涉及了常用的概率知识、线性代数、机器学习、深度学习、计算机视觉等热点问题，该书目前尚未完结，却已经收获了Github 2.4w stars。

项目地址

https://github.com/scutan90/DeepLearning-500-questions

7.工具 - TensorFlow 官方文档

进行深度学习怎么离得开TensorFlow

官方文档

https://www.tensorflow.org/api_docs/python/tf

中文文档

https://github.com/jikexueyuanwiki/tensorflow-zh

7.工具 - PyTorch官方文档

PyTorch是进行深度学习的另一个主流框架

官方文档

https://pytorch.org/docs/stable/index.html

中文文档(版本0.3)

https://github.com/apachecn/pytorch-doc-zh

强化学习

1.公开课 - David Silver《Reinforcement Learning》

同吴恩达的课程对于机器学习和深度学习初学者的意义一样，David Silver的这门课程绝对是大多数人学习强化学习必选的课程。课程从浅到深，把强化学习的内容娓娓道来，极其详尽。不过由于强化学习本身的难度，听讲这门课还是有一定的门槛，建议还是在大致了解这个领域之后观看该视频学习效果更佳，更容易找到学习的重点。另外，由于强化学习领域飞速地发展，最前沿的知识（特别是与深度学习相关的）没有被涵盖在这个课程中，需要另外补充。

课程介绍

该课程对强化学习领域做了相当详尽的讲解，其主要内容有：马尔可夫决策过程（强化学习的基础理论）、动态规划、免模型预测（蒙特卡洛学习、时序差分学习和λ时序差分强化学习）、免模型控制（On-policy Learning和Off-policy Learning）、价值函数的近似表示、策略梯度算法、集成学习与计划、探索与利用以及实例演示。

视频地址

B站地址(中文字幕)： https://www.bilibili.com/video/av45357759?from=search&seid=9547815852611563503 课程原地址： https://www.youtube.com/watch?v=2pWv7GOvuf0

课程资料

课程PPT： http://www0.cs.ucl.ac.uk/staff/d.silver/web/Teaching.html 课程笔记： https://www.zhihu.com/people/qqiang00/posts

2.公开课 - 李宏毅《深度强化学习》

David Silver的课程虽然内容详尽，但前沿的很多内容都没有被包括在内，这时，台大李宏毅的《深度强化学习》就是学习前沿动态的不二之选。李宏毅老师讲课非常幽默风趣，并且浅显易懂，而且对于大多数初学者来说，中文教学可谓是福音。当然，这门课程也有着没有对理论知识做太多详尽地展开、内容主要围绕着深度强化学习进行等缺陷，但这并不妨碍其成为初学者们的首选之一。

课程介绍

该课程上线于2018年，基本涵盖了当年的前沿技术，其主要内容有：策略梯度算法（David Silver的课程中提到的算法大多都在这部分的内容中提到，但其主要是从神经网络的角度出发）、Q-learning（这部分涵盖了大量的Q-learning优化的讲解）、Actor-Critic、Sparse Reward 和 Imitation Learning。

视频地址

B站地址(中文字幕)： https://www.bilibili.com/video/av24724071?from=search&seid=9547815852611563503 课程原地址： https://www.youtube.com/watch?v=2pWv7GOvuf0

课程资料

课程PPT： http://speech.ee.ntu.edu.tw/~tlkagk/courses_MLDS18.html 课程笔记： https://blog.csdn.net/cindy_1102/article/details/87905272

前沿 Paper

Arxiv

Arxiv Stats

Arxiv 机器学习最新论文检索，主页地址： https://arxiv.org/list/stat.ML/recent?ref=bestofml.com

Arxiv Sanity Preserver

Andrej Karpathy 开发了 Arxiv Sanity Preserver，帮助分类、搜索和过滤特征，主页地址： http://www.arxiv-sanity.com/?ref=bestofml.com

Papers with Code

Papers with Code(Browse state-of-the-art)

这个网站叫做 Browse state-of-the-art。它将 ArXiv 上的最新深度学习论文与 GitHub 上的开源代码联系起来。该项目目前包含了 651 个排行榜，1016 个深度学习任务，795 个数据集，以及重磅的 10257 个含复现代码的优秀论文。简直就是一个寻找论文和代码的利器。它将 1016 个深度学习任务分成了 16 大类，涉及了深度学习的各个方面。

主页地址： https://paperswithcode.com/sota

举两个例子：

（1）CV：https://paperswithcode.com/area/computer-vision （2）NLP：https://paperswithcode.com/area/natural-language-processing

介绍：https://redstonewill.com/2039/

Papers with Code(Sorted by stars)

这份资源收集了 AI 领域从 2013 - 2018 年所有的论文，并按照在 GitHub 上的标星数量进行排序。GitHub 项目地址： https://github.com/zziz/pwc

Deep Learning Papers(Reading Roadmap)

如果你是深度学习领域的新手，你可能会遇到的第一个问题是“我应该从哪篇论文开始阅读？”下面是一个深入学习论文的阅读路线图！GitHub 项目地址： https://github.com/floodsung/Deep-Learning-Papers-Reading-Roadmap

这份深度学习论文阅读路线分为三大块：

1 Deep Learning History and Basics 2 Deep Learning Method 3 Applications

Deep Learning Object Detection

目标检测（Object Detection）是深度学习 CV 领域的一个核心研究领域和重要分支。纵观 2013 年到 2019 年，从最早的 R-CNN、Fast R-CNN 到后来的 YOLO v2、YOLO v3 再到今年的 M2Det，新模型层出不穷，性能也越来越好！本资源对目标检测近几年的发展和相关论文做出一份系统介绍，总结一份超全的文献 paper 列表。

GitHub 项目地址： https://github.com/hoya012/deep_learning_object_detection

介绍：https://redstonewill.com/1934/

知名会议

NeurIPS：https://nips.cc/ ICML：https://icml.cc/ ICLR：https://iclr.cc/ AAAI：https://aaai.org/Conferences/AAAI-19/ IJCAI：https://www.ijcai.org/ UAI：http://www.auai.org/uai2019/index.php

计算机视觉：

CVPR：http://cvpr2019.thecvf.com/ ECCV：https://eccv2018.org/program/main-conference/ ICCV：http://iccv2019.thecvf.com/

自然语言处理：

ACL：http://www.aclcargo.com/ EMNLP：https://www.aclweb.org/portal/content/emnlp-2018 NAACL：https://naacl2019.org/

知名期刊

JAIR：https://www.jair.org/index.php/jair JMLR：http://www.jmlr.org/

其它

机器人方面，有 CoRL（学习）、ICAPS（规划，包括但不限于机器人）、ICRA、IROS、RSS；对于更理论性的研究，有 AISTATS、COLT、KDD。

理论应用

自然语言处理

1. NLP是什么

自然语言处理（NLP，Natural Language Processing）是研究计算机处理人类语言的一门技术，目的是弥补人类交流（自然语言）和计算机理解（机器语言）之间的差距。NLP包含句法语义分析、信息抽取、文本挖掘、机器翻译、信息检索、问答系统和对话系统等领域。

1. 课程推荐

① CS224n 斯坦福深度自然语言处理课 17版中文字幕 https://www.bilibili.com/video/av41393758/?p=1 课程笔记：http://www.hankcs.com/?s=CS224n%E7%AC%94%E8%AE%B0 2019版课程主页：http://web.stanford.edu/class/cs224n/ （需科学上网） ② 自然语言处理 - Dan Jurafsky 和 Chris Manning B站英文字幕版：https://www.bilibili.com/video/av35805262/ 学术激流网：http://academictorrents.com/details/d2c8f8f1651740520b7dfab23438d89bc8c0c0ab

1. 书籍推荐

① Python自然语言处理 中英文版

入门读物，整本书不仅涉及了语料库的操作，也对传统的基于规则的方法有所涉及。全书包括了分词（tokenization）、词性标注（POS）、语块（Chunk）标注、句法剖析与语义剖析等方面，是nlp中不错的一本实用教程。

② 自然语言处理综论 中英文版

By Daniel Jurafsky和James H. Martin 权威性杠杠的！经典的NLP教科书，涵盖了经典自然语言处理、统计自然语言处理、语音识别和计算语言学等方面。

③ 统计自然语言处理基础 中英文版

By Chris Manning和HinrichSchütze 更高级的统计NLP方法，在统计基本部分和n元语法部分介绍地都很不错

1. 博客推荐

我爱自然语言处理网站 http://www.52nlp.cn/

TFIDF、文档相似度等等网站上都有通俗易懂的解释

语言日志博客（Mark Liberman）http://languagelog.ldc.upenn.edu/nll/ natural language processing blog https://nlpers.blogspot.com/

美国Hal Daumé III维护的一个natural language processing的博客，经常评论最新学术动态，值得关注。有关于ACL、NAACL等学术会议的参会感想和对论文的点评

5.项目推荐

基于LSTM的中文问答系统 https://github.com/S-H-Y-GitHub/QA 基于RNN的文本生成器 https://github.com/karpathy/char-rnn 基于char-rnn的汪峰歌词生成器 https://github.com/phunterlau/wangfeng-rnn 用RNN生成手写数字 https://github.com/skaae/lasagne-draw

1. 开源NLP工具包

中文NLP相关： https://github.com/crownpku/Awesome-Chinese-NLP 英文NLP相关：

NLTK http://www.nltk.org/ TextBlob: http://textblob.readthedocs.org/en/dev/ Gensim: http://radimrehurek.com/gensim/ Pattern: http://www.clips.ua.ac.be/pattern Spacy:: http://spacy.io Orange: http://orange.biolab.si/features/ Pineapple: https://github.com/proycon/pynlpl

1. 相关论文

100 Must-Read NLP Papers https://github.com/mhagiwara/100-nlp-papers

计算机视觉

1. 计算机视觉的应用

计算机视觉的应用	无人驾驶
	无人安防
	人脸识别
	车辆车牌识别
	以图搜图
	VR/AR
	3D重构
	无人机
	医学图像分析
	其他

2.课程推荐

Stanford CS223B 比较适合基础，适合刚刚入门的同学，跟深度学习的结合相对来说会少一点，不会整门课讲深度学习，而是主要讲计算机视觉，方方面面都会讲到

李飞飞：CS231n课程 https://mp.weixin.qq.com/s/-NaDpXsxvu4DpXqVNXIAvQ

3.书籍推荐

1）入门学习：《Computer Vision：Models, Learning and Inference》 2）经典权威的参考资料：《Computer Vision：Algorithms and Applications》 3）理论实践：《OpenCV3编程入门》

推荐系统

1.推荐系统是什么

推荐系统就是自动联系用户和物品的一种工具，它能够在信息过载的环境中帮助用户发现令他们感兴趣的信息，也能将信息推送给对它们感兴趣的用户。 推荐系统属于资讯过滤的一种应用。

2.推荐课程

推荐系统专项课程《Recommender Systems Specialization》 这个系列由4门子课程和1门毕业项目课程组成，包括推荐系统导论，最近邻协同过滤，推荐系统评价，矩阵分解和高级技术等。 观看地址：https://www.coursera.org/specializations/recommender-systems

3.书籍推荐

《推荐系统实践》（项亮 著） 《推荐系统》（Dietmar Jannach等 著，蒋凡 译） 《用户网络行为画像》（牛温佳等 著） 《Recommender Systems Handbook》（Paul B·Kantor等 著）

4.算法库

LibRec LibRec是一个Java版本的覆盖了70余个各类型推荐算法的推荐系统开源算法库，由国内的推荐系统大牛郭贵冰创办，目前已更新到2.0版本，它有效地解决了评分预测和物品推荐两大关键的推荐问题。 项目地址: https://github.com/guoguibing/librec 官网：官网https://www.librec.net/ LibMF C++版本开源推荐系统，主要实现了基于矩阵分解的推荐系统。针对SGD（随即梯度下降）优化方法在并行计算中存在的 locking problem 和 memory discontinuity问题，提出了一种 矩阵分解的高效算法FPSGD（Fast Parallel SGD），根据计算节点的个数来划分评分矩阵block，并分配计算节点。 项目地址：http://www.csie.ntu.edu.tw/~cjlin/libmf/ SurPRISE 一个Python版本的开源推荐系统，有多种经典推荐算法 项目地址：http://surpriselib.com/ Neural Collaborative Filtering 神经协同过滤推荐算法的Python实现 项目地址：https://github.com/hexiangnan/neural_collaborative_filtering Crab 基于Python开发的开源推荐软件，其中实现有item和user的协同过滤 项目地址：http://muricoca.github.io/crab/

5.常用数据集

MovieLen 地址：https://grouplens.org/datasets/movielens/ MovieLens数据集中，用户对自己看过的电影进行评分，分值为1~5。MovieLens包括两个不同大小的库，适用于不同规模的算法。小规模的库是943个独立用户对1 682部电影作的10 000次评分的数据；大规模的库是6 040个独立用户对3 900部电影作的大约100万次评分。适用于传统的推荐任务 Douban 地址：https://www.cse.cuhk.edu.hk/irwin.king.new/pub/data/douban Douban是豆瓣的匿名数据集，它包含了12万用户和5万条电影数据，是用户对电影的评分信息和用户间的社交信息，适用于社会化推荐任务。 BookCrossing 地址：http://www2.informatik.uni-freiburg.de/~cziegler/BX/ 这个数据集是网上的Book-Crossing图书社区的278858个用户对271379本书进行的评分，包括显式和隐式的评分。这些用户的年龄等人口统计学属性(demographic feature)都以匿名的形式保存并供分析。这个数据集是由Cai-Nicolas Ziegler使用爬虫程序在2004年从Book-Crossing图书社区上采集的。 Jester Joke 地址：http://eigentaste.berkeley.edu/dataset/ Jester Joke是一个网上推荐和分享笑话的网站。这个数据集有73496个用户对100个笑话作的410万次评分。评分范围是−10~10的连续实数。这些数据是由加州大学伯克利分校的Ken Goldberg公布的。 Netflix 地址：http://academictorrents.com/details/9b13183dc4d60676b773c9e2cd6de5e5542cee9a 这个数据集来自于电影租赁网址Netflix的数据库。Netflix于2005年底公布此数据集并设立百万美元的奖金(netflix prize)，征集能够使其推荐系统性能上升10%的推荐算法和架构。这个数据集包含了480 189个匿名用户对大约17 770部电影作的大约10亿次评分。 Usenet Newsgroups(http://qwone.com/~jason/20Newsgroups/) 这个数据集包括20个新闻组的用户浏览数据。最新的应用是在KDD 2007上的论文。新闻组的内容和讨论的话题包括计算机技术、摩托车、篮球、政治等。用户们对这些话题进行评价和反馈。 UCI库 地址：https://archive.ics.uci.edu/ml/datasets.html UCI库是Blake等人在1998年开放的一个用于机器学习和评测的数据库，其中存储大量用于模型训练的标注样本，可用于推荐系统的性能测试数据。

6.推荐论文

经典必读论文整理，包括综述文章、传统经典推荐文章、社会化推荐文章、基于深度学习的推荐系统文章、专门用于解决冷启动的文章、POI相关的论文、利用哈希技术来加速推荐的文章以及推荐系统中经典的探索与利用问题的相关文章等。 项目地址: https://github.com/hongleizhang/RSPapers

7.推荐项目

今日头条推荐系统机制介绍，面向内容创作者 分享人：项亮，今日头条推荐算法架构师 https://v.qq.com/x/page/f0800qavik7.html?

3分钟了解今日头条推荐系统原理 https://v.qq.com/x/page/g05349lb80j.html?

facebook是如何为十亿人推荐好友的 https://code.facebook.com/posts/861999383875667/recommending-items-to-more-than-a-billion-people/

Netflix的个性化和推荐系统架构 http://techblog.netflix.com/2013/03/system-architectures-for.html

风控模型（评分卡模型）

1.评分卡模型简介

评分卡模型时在银行、互金等公司与借贷相关业务中最常见也是最重要的模型之一。简而言之它的作用就是对客户进行打分，来对客户是否优质进行评判。根据评分卡模型应用的业务阶段不用，评分卡模型主要分为三大类：A卡（Application score card）申请评分卡、B卡（Behavior score card）行为评分卡、C卡（Collection score card）催收评分卡。其中申请评分卡用于贷前，行为评分卡用于贷中，催收评分卡用于贷后，这三种评分卡在我们的信贷业务的整个生命周期都至关重要。

2.推荐书籍

《信用风险评分卡研究——基于SAS的开发与实施》

3.评分卡模型建模过程

（1）样本选取：确定训练样本、测试样本的观察窗（特征的时间跨度）与表现窗（标签的时间跨度），且样本的标签定义是什么？一般情况下风险评分卡的标签都是考虑客户某一段时间内的延滞情况。 （2）特征准备：原始特征、衍生变量 （3）数据清洗：根据业务需求对缺失值或异常值等进行处理 （4）特征筛选：根据特征的IV值（特征对模型的贡献度）、PSI（特征的稳定性）来进行特征筛选，IV值越大越好（但是一个特征的IV值超过一定阈值可能要考虑是否用到未来数据），PSI越小越好（一般建模时取特征的PSI小于等于0.01） （5）对特征进行WOE转换，即对特征进行分箱操作，注意在进行WOE转换时要注重特征的可解释性 （6）建立模型，在建立模型过程中可根据模型和变量的统计量判断模型中包含和不包含每个变量时的模型质量来进行变量的二次筛选。 （7）评分卡模型一般关注的指标是KS值（衡量的是好坏样本累计分部之间的差值）、模型的PSI(即模型整体的稳定性）、AUC值等。

知识图谱

1.知识图谱是什么

知识图谱是一种结构化数据的处理方法，它涉及知识的提取、表示、存储、检索等一系列技术。从渊源上讲，它是知识表示与推理、数据库、信息检索、自然语言处理等多种技术发展的融合。

2.推荐资料

为什么需要知识图谱？什么是知识图谱？——KG的前世今生 什么是知识图谱？ 智能搜索时代：知识图谱有何价值？ 百度王海峰：知识图谱是 AI 的基石 译文|从知识抽取到RDF知识图谱可视化

3.主要内容

1. 知识提取

构建kg首先需要解决的是数据，知识提取是要解决结构化数据生成的问题。我们可以用自然语言处理的方法，也可以利用规则。

• 使用规则：

  • 正则表达式：

正则表达式（Regular Expression， regex）是字符串处理的基本功。数据爬取、数据清洗、实体提取、关系提取，都离不开regex。 推荐资料入门：

• 精通正则表达式

• regexper 可视化： 例 [a-z]*(\d{4}(\D+)))

• pythex 在线测试正则表达式 http://pythex.org/

推荐资料进阶： * re2 一个更快的Cython实现 https://pypi.python.org/pypi/re2/ * Parsley 更人性化的正则表达语法 http://parsley.readthedocs.io/en/latest/tutorial.html

* 中文分词和词性标注 ​ 分词也是后续所有处理的基础，词性（Part of Speech, POS）就是中学大家学过的动词、名词、形容词等等的词的分类。一般的分词工具都会有词性标注的选项。

推荐资料入门： * jieba 中文分词包 https://github.com/fxsjy/jieba * 中文词性标记集 https://github.com/memect/kg-beijing/wiki/中文词性标记集

推荐资料进阶： * genius 采用 CRF条件随机场算法 https://github.com/duanhongyi/genius * Stanford CoreNLP分词 https://blog.csdn.net/guolindonggld/article/details/72795022

* 命名实体识别 ​命名实体识别（NER）是信息提取应用领域的重要基础工具，一般来说，命名实体识别的任务就是识别出待处理文本中三大类（实体类、时间类和数字类）、七小类（人名、机构名、地名、时间、日期、货币和百分比）命名实体。

推荐资料： * Stanford CoreNLP 进行中文命名实体识别 https://blog.csdn.net/guolindonggld/article/details/72795022

• 使用深度学习：

使用自然语言处理的方法，一般是给定schema，从非结构化数据中抽取特定领域的三元组（spo），如最近百度举办的比赛就是使用DL模型进行信息抽取。

• 序列标注

使用序列生出模型，主要是标记出三元组中subject及object的起始位置，从而抽取信息。 推荐资料：

• 序列标注问题 https://www.cnblogs.com/jiangxinyang/p/9368482.html

* seq2seq ​ 使用seq2seq端到端的模型，主要借鉴文本摘要的思想，将三元组看成是非结构化文本的摘要，从而进行抽取，其中还涉及Attention机制。

推荐资料： * seq2seq详解 https://blog.csdn.net/irving_zhang/article/details/78889364 * 详解从Seq2Seq模型到Attention模型 https://caicai.science/2018/10/06/attention%E6%80%BB%E8%A7%88/

1. 知识表示

知识表示（Knowledge Representation，KR，也译为知识表现）是研究如何将结构化数据组织，以便于机器处理和人的理解的方法。

需要熟悉下面内容：

• JSON和YAML

• json库 https://docs.python.org/2/library/json.html

• PyYAML是Python里的Yaml处理库 http://pyyaml.org/wiki/PyYAML

• RDF和OWL

• • RDF和OWL语义 http://blog.memect.cn/?p=871

• JSON-LD

• • JSON-LD主页 http://json-ld.org/

  1. 知识存储

  需要熟悉常见的图数据库

  • 知识链接的方式：字符串、外键、URI

  • PostgreSQL及其JSON扩展

  • Psycopg包操作PostgreSQL http://initd.org/psycopg/docs/

• 图数据库 Neo4j和OrientDB

• • Neo4j的Python接口 https://neo4j.com/developer/python/

  • OrientDB：http://orientdb.com/orientdb/

• RDF数据库Stardog

• • Stardog官网：http://stardog.com/

  1. 知识检索

  需要熟悉常见的检索技术

  • ElasticSearch

  ES教程： http://joelabrahamsson.com/elasticsearch-101/

  1. 相关术语及技术路线

  • 本体

  • RDF

  • Apache Jena

  • D2RQ

  • Protege构建本体系列

• protege

• protege使用

• • 开发语言

• python或java

• • 图数据库技术

• Neo4j

• AllegroGraph

• • 可视化技术

• d3.js

• Cytoscape.js

• • 分词技术

• jieba

• hanlp

• 5.项目实战

  • 基于知识图谱的问答

  • Agriculture_KnowledgeGraph