NJU机器学习导论课程笔记之写作缘由

写在前面

       本人在NJU交流期间修了机器学习导论这门课，教材就是大家熟知的西瓜书。因为带了“导论”两个字，我本以为是一门比较水的课，就欣然地选了它。事实上，即便是入门级的课程，这门课的内容十分丰（困）富（难），涉及了决策树、神经网络、支持向量机、聚类分析等各种机器学习算法。老师上课时也只是蜻蜓点水地将重要的内容提一下（因为内容太多且难度大），所以想真正学好这门课需要课后付出很多时间去研究。除此之外，作业的难度大，题量多，形式丰富。不管是报告式的作业还是课程网站上的OJ，都要花我三到五天的 时间才能完成。

       不过，虽然学习的进程是苦的，坚持了大半年下来觉得收获颇丰，最起码可以说自己半只脚入了机器学习的这个门吧！临近期末，整理了相关的知识点以应付期末考试，将持续更新。这是我第一次写博客，如有错误敬请指正。

---

       以下是这门课的教学大纲(侵删)

 

课程名：
机器学习导论

英文名：
Introduction to Machine Learning

先修课程：
计算机程序设计，数据结构，概率统计

建议教材：
周志华. 机器学习. 清华大学出版社. 2016.

参考资料：
【参考书】T. Mitchell. Machine Learning. McGraw Hill, New York, 1997
【参考书】R. Duda, P. E. Hart, and D. G. Stork. Pattern Classification, 2nd edition. John Wiley & Sons, New York, 2001.
【参考书】T. Hastie, R. Tibshirani, and J. Friedman. The Elements of Statistical Learning, 2nd edition. Springer, New York, 2009

教学内容：
第一章：绪论（第1，2课时）
总体介绍课程内容：机器学习中的一些基本概念，假设空间和归纳偏好，发展历程、应用现状等。
第二章：模型评估与选择（第3到5课时）
机器学习的模型评估与选择，经验误差与过拟合，模型评估方法与性能度量，比较检验方法，偏差与方差等。
第三章：线性模型（第6到8课时）
线性模型的基本形式，线性回归，对数几率回归，线性判别分析，多分类学习、类别不平衡问题等。
第四章：决策树（第9到11课时）
决策树的基本流程，划分选择与剪枝处理，连续与缺失值的处理，多变量决策树等。
第五章：神经网络（第12到15课时）
神经元模型，感知机与多层网络，BP算法，全局最小与局部极小，SOM、ART等常见神经网络模型。
第六章：支持向量机（第16到19课时）
间隔与支持向量，对偶问题，核函数，软间隔与正则化，支持向量回归，核方法。
第七章：贝叶斯分类器（第20到22课时）
贝叶斯决策论，极大似然估计，朴素贝叶斯分类器，半朴素贝叶斯分类器，贝叶斯网，EM算法等。
第八章：集成学习（第23到25课时）
个体学习器与集成的关系，Boosting，Bagging，随机森林，随机子空间，结合策略，多样性等。
第九章：聚类（第26到28课时）
聚类任务，聚类准则，距离计算，原型聚类，密度聚类，层次聚类等。
第十章：降维与度量学习（第29到31课时）
K近邻学习，低维嵌入，主成分分析，核化线性降维，流形学习，度量学习等。
作业：约4课时
复习：1课时

作业安排：
6次作业。

    顺带夸一夸南大的教务系统，每门课都提供了详细的教学大纲，让学生在选课之前就能大致了解课程内容。

  （希望窝工能够学习学习）