大模型学习路线以及资料--更新中

        总结了一下大模型学习路线和基本学习资料，后续会不断更新。从零开始学习吧，不然的话很可能被这个时代抛弃。

0.数学基础

     - 线性代数（矩阵运算、特征值分解）

《线性代数》4小时速成课（不挂科） | 框框老师_哔哩哔哩_bilibili《线性代数》4小时速成课（不挂科） | 框框老师共计9条视频，包括：第一讲：行列式的计算（一）（四种题型 ）、第一讲：行列式的计算（续）（三种题型）、第二讲：矩阵（一）（三种题型）等，UP主更多精彩视频，请关注UP账号。https://www.bilibili.com/video/BV1Ey4y147xn/?spm_id_from=333.337.search-card.all.click&vd_source=66d139c8a7a974f25fb6bb9383b07c1a
     - 概率统计（贝叶斯定理、分布、极大似然估计）

《概率论与数理统计》4小时速成课 | 框框老师（突击课，适合大学数学期末考试、期中考试、补考、重修、专升本，考试不挂科）_哔哩哔哩_bilibili《概率论与数理统计》4小时速成课 | 框框老师（突击课，适合大学数学期末考试、期中考试、补考、重修、专升本，考试不挂科）共计10条视频，包括：第一章：随机事件及其概率（一）、第一章：随机事件及其概率（二）、第二章：一维随机变量及其分布（一）等，UP主更多精彩视频，请关注UP账号。https://www.bilibili.com/video/BV168411Z7pf/?spm_id_from=333.337.search-card.all.click
     - 微积分（梯度下降、链式法则）

《微积分》《高等数学》全程教学视频--宋浩老师_哔哩哔哩_bilibili《微积分》《高等数学》全程教学视频--宋浩老师共计59条视频，包括：1.1 集合--宋浩老师--《微积分I》、1.2 函数--宋浩老师--《微积分I》、1.4 数列极限（一）--宋浩老师--《微积分I》等，UP主更多精彩视频，请关注UP账号。https://www.bilibili.com/video/BV1UW411k7Jv/?spm_id_from=333.337.search-card.all.click&vd_source=66d139c8a7a974f25fb6bb9383b07c1a

1.Python基础

之前工作中常用的java，在这里把python基础再学习一遍

学习资料

【全748集】目前B站最全最细的Python零基础全套教程，2025最新版，包含所有干货！七天就能从入门到精通！少走99%的弯路！存下吧！很难找全的！_哔哩哔哩_bilibili【全748集】目前B站最全最细的Python零基础全套教程，2025最新版，包含所有干货！七天就能从入门到精通！少走99%的弯路！存下吧！很难找全的！共计200条视频，包括：【课前篇】大佬专门研制的Python从0~1学习指南、【软件篇】Python解释器的安装、【软件篇】pycharm编辑器的安装与使用等，UP主更多精彩视频，请关注UP账号。https://www.bilibili.com/video/BV15dA6eBECZ/?spm_id_from=333.1387.favlist.content.click

2.机器学习

传统机器学习算法（线性回归、决策树、SVM等）

(超爽中英!) 2024公认最好的【吴恩达机器学习】教程！附课件代码 Machine Learning Specialization_哔哩哔哩_bilibili(超爽中英!) 2024公认最好的【吴恩达机器学习】教程！附课件代码 Machine Learning Specialization共计142条视频，包括：1.1 欢迎来到机器学习!、1.2 机器学习的应用、2.1 什么是机器学习等，UP主更多精彩视频，请关注UP账号。https://www.bilibili.com/video/BV1Bq421A74G/?spm_id_from=333.1387.favlist.content.click&vd_source=66d139c8a7a974f25fb6bb9383b07c1a

周志华老师亲讲-西瓜书全网最详尽讲解-1080p高清原版《机器学习初步》_哔哩哔哩_bilibili周志华老师亲讲-西瓜书全网最详尽讲解-1080p高清原版《机器学习初步》共计53条视频，包括：1-1.教材、1-2.课程定位、1-3.机器学习等，UP主更多精彩视频，请关注UP账号。https://www.bilibili.com/video/BV1gG411f7zX/?spm_id_from=333.1387.favlist.content.click

机器学习入门到精通！不愧是公认的讲的最好的【机器学习全套教程】同济大佬12小时带你从入门到进阶（机器学习/线性代数/人工智能/Python）_哔哩哔哩_bilibili机器学习入门到精通！不愧是公认的讲的最好的【机器学习全套教程】同济大佬12小时带你从入门到进阶（机器学习/线性代数/人工智能/Python）共计195条视频，包括：0-课程简介、1-回归问题概述、2-误差项定义等，UP主更多精彩视频，请关注UP账号。https://www.bilibili.com/video/BV1PN4y1V7d9/?spm_id_from=333.1387.favlist.content.click

3.深度学习

- 深度学习基础：
     - 神经网络基础（前向传播、反向传播）
     - CNN（图像处理）、RNN/LSTM（序列建模）
     - 优化方法（SGD、Adam）、正则化（Dropout、BatchNorm）

【通俗易懂版】这绝对是B站2025年机器学习深度学习入门的天花板教程！从入门到精通、详细讲解，零基础易学 | 通俗易懂 | 干货满满，让你不再走弯路！学完即就业_哔哩哔哩_bilibili【通俗易懂版】这绝对是B站2025年机器学习深度学习入门的天花板教程！从入门到精通、详细讲解，零基础易学 | 通俗易懂 | 干货满满，让你不再走弯路！学完即就业共计94条视频，包括：1.机器学习定义、002 2.机器学习的分类、003 3.机器学习算法的过程等，UP主更多精彩视频，请关注UP账号。https://www.bilibili.com/video/BV1uSfqY3EGV/?spm_id_from=333.1387.favlist.content.click

4.PyTorch框架学习

强推！这可能是B站最全的（Python＋机器学习＋深度学习）系列课程了，不愧是上海交大和腾讯联合出品！快速入门巨简单，还学不会来锤爆我！人工智能_神经网络_AI_哔哩哔哩_bilibili强推！这可能是B站最全的（Python＋机器学习＋深度学习）系列课程了，不愧是上海交大和腾讯联合出品！快速入门巨简单，还学不会来锤爆我！人工智能_神经网络_AI共计72条视频，包括：1.1. Python基础- Python及其数学库1、2.2. Python基础- Python及其数学库2、3.3. Python基础 - Python及其数学库3等，UP主更多精彩视频，请关注UP账号。https://www.bilibili.com/video/BV1j6qzYzE4h/?spm_id_from=333.1387.favlist.content.click&vd_source=66d139c8a7a974f25fb6bb9383b07c1a

B站强荐 【pytorch教程 】pytorch深度学习基础快速入门！pytorch安装 常见的张量计算等！ 如何学习人工智能入门教程 人工智能数学等_哔哩哔哩_bilibiliB站强荐 【pytorch教程 】pytorch深度学习基础快速入门！pytorch安装 常见的张量计算等！ 如何学习人工智能入门教程 人工智能数学等共计23条视频，包括：pytorch的安装、pytorch常见的张量计算、pytorch张量的几何操作等，UP主更多精彩视频，请关注UP账号。https://www.bilibili.com/video/BV1zZ4y1n7uj/?spm_id_from=333.1387.favlist.content.click&vd_source=66d139c8a7a974f25fb6bb9383b07c1a

PyTorch深度学习快速入门教程（绝对通俗易懂！）【小土堆】_哔哩哔哩_bilibiliPyTorch深度学习快速入门教程（绝对通俗易懂！）【小土堆】共计33条视频，包括：P1. PyTorch环境的配置及安装（Configuration and Installation of PyTorch)【PyTorch教程】、P2. Python编辑器的选择、安装及配置（PyCharm、Jupyter安装）【PyTorch教程】、【FAQ】为什么torch.cuda.is_available返回False等，UP主更多精彩视频，请关注UP账号。https://www.bilibili.com/video/BV1hE411t7RN/?spm_id_from=333.1387.favlist.content.click

5.NLP与Transformer 架构

1. **自然语言处理基础**
   - 词嵌入（Word2Vec、GloVe）
   - 文本处理（分词、TF-IDF、注意力机制）
   - 序列模型（Seq2Seq、Attention 机制）

2. **Transformer 架构**
   - Transformer 的核心组件：
     - 自注意力机制（Self-Attention）
     - 位置编码（Positional Encoding）
     - 多头注意力（Multi-Head Attention）
   - 经典论文精读：
     - [《Attention Is All You Need》](https://arxiv.org/abs/1706.03762)（Transformer 原论文）

3. **预训练模型（Pretrained Models）**
   - BERT（双向编码器）
   - GPT 系列（自回归生成模型）
   - T5（文本到文本的统一框架）
   - 模型对比：Encoder vs. Decoder vs. Encoder-Decoder

香死了！哈工大教授花9天讲完的NLP自然语言处理！从NLP开发包到句法语义再到深度学习项目实战！整整55集，学完就能训练自己的ChatGPT！_哔哩哔哩_bilibili香死了！哈工大教授花9天讲完的NLP自然语言处理！从NLP开发包到句法语义再到深度学习项目实战！整整55集，学完就能训练自己的ChatGPT！共计55条视频，包括：1. NLP历史现在及为什么需要学习NLP技术、2. NLP实现机器学习，聊天机器人，情感分析和语义搜索、3. Python环境搭建及开发工具安装等，UP主更多精彩视频，请关注UP账号。https://www.bilibili.com/video/BV1rb421J7Zp/?spm_id_from=333.1387.favlist.content.click

6.大模型

 1. **大模型架构**
   - 模型结构改进：
     - 稀疏注意力（Sparse Attention）
     - 混合专家模型（MoE，如 Switch Transformer）
   - 主流大模型：
     - GPT-3/4、PaLM、LLaMA、ChatGLM、Claude

2. **大模型训练技术**
   - 分布式训练：
     - 数据并行（Data Parallelism）
     - 模型并行（Model Parallelism）
     - ZeRO（Zero Redundancy Optimizer）
   - 混合精度训练（FP16/FP32）
   - 显存优化（Gradient Checkpointing）

3. **高效微调技术**
   - 参数高效微调（Parameter-Efficient Fine-Tuning）：
     - LoRA（Low-Rank Adaptation）
     - Adapter、Prefix-Tuning
   - 提示工程（Prompt Engineering）

从零开始手撕微调代码（deepseek-r1蒸馏模型），并且本地运行和调试，无需联网。_哔哩哔哩_bilibili本视频讲解在如何在本地编写deepseek -r1 蒸馏模型的微调代码，无需联网，本地运行和调试。该视频为原创视频，代码和相关资料完全开源。模型下载地址：https://pan.quark.cn/s/a22f5a9e3490数据准备：https://pan.quark.cn/s/a220f415b35c, 视频播放量 27202、弹幕量 39、点赞数 836、投硬币枚数 569、收藏人数 3406、转发人数 310, 视频作者 Bin_Nong, 作者简介 ，相关视频：【DeepSeek+LoRA+FastAPI】开发人员如何微调大模型并暴露接口给后端调用，如何把你的 DeePseek-R1 微调为某个领域的专家？（实战篇），deepseek r1微调模型应用落地案例（医疗法律，PatientSeek），适合借鉴学习。，DeepSeek最新使用教程（干货满满），2024吃透AI大模型（LLM+量化+部署+微调）通俗易懂，学完即就业！拿走不谢，学不会我退出IT圈！！！——大模型微调/大模型学习路线，【整整548集】爆肝整理！B站最全最细自学大模型全套教程，逼自己1个月学完！从零基础小白到大模型工程师上岸全站只要这套就够了！—ai大模型/大模型学习路线，【DeepSeek教程】清华大学带你从入门到精通，全程干货无废话！少走99%的弯路！存下吧！很难找全的！，第二十课：MoE，【必看珍藏】2月6日，安德烈·卡帕西最新AI普及课：深入探索像ChatGPT这样的大语言模型｜Andrej Karpathy，大模型RAG企业项目实战：手把手带你搭建一套完整的RAG系统，原理讲解+代码解析，草履虫都能学明白！LLM大模型_RAG_大模型微调_多模态https://www.bilibili.com/video/BV1pfKNe8E7F/?spm_id_from=333.1387.favlist.content.click

deepseek r1微调模型应用落地案例（医疗法律，PatientSeek），适合借鉴学习。_哔哩哔哩_bilibili本视频讲解deepseek r1微调模型应用落地案例（医疗法律），适合大家学习和借鉴，代码和相关资料完全开源。视频中markdown（含代码）文档地址：https://pan.quark.cn/s/ce195bd4aeebllama-cpp-python的whl下载地址：https://pan.quark.cn/s/947a7c2266cb博客地址：https://medium.com/enter, 视频播放量 66333、弹幕量 29、点赞数 2720、投硬币枚数 2127、收藏人数 8414、转发人数 845, 视频作者 Bin_Nong, 作者简介 ，相关视频：【deepseek微调一个专属AI医生】保姆级教程！！10分钟教你微调deepseek-R1-8B蒸馏模型，免费训练一个专属的AI医生，草履虫都能学会！，【DeepSeek+LoRA+FastAPI】开发人员如何微调大模型并暴露接口给后端调用，如何把你的 DeePseek-R1 微调为某个领域的专家？（实战篇），大模型RAG企业项目实战：手把手带你搭建一套完整的RAG系统，原理讲解+代码解析，草履虫都能学明白！LLM大模型_RAG_大模型微调_多模态，如何在本地微调DeepSeek-R1-8b模型，如何快速微调DeepSeek-R1-8b模型，并且可视化训练过程，赶紧行动起来。，(超爽中英!) 2024公认最好的【吴恩达LangChain+RAG】教程！更适合中国宝宝体质，全程干货无废话，学完成为AGI大佬！（附课件+代码），练习两分半，使用DeepSeek-R1蒸馏训练自己的本地小模型（Qwen2.5-0.5B），原理流程全讲解，模型数据全给你，【AI大模型与强化学习】大模型DeepSeek R1训练全流程流程详解！GRPO算法原理详解;强化学习赋能大模型本质是什么!大模型课程 大模型蒸馏 人工智能课程，DeepSeek：行业应用与实践（直播录屏）https://www.bilibili.com/video/BV17zAVevEtw/?spm_id_from=333.1387.favlist.content.clickB站首推！2025最新版大模型AI Agent入门到精通实战教程！包含所有知识点(Agent+RAG+LangGraph)存下吧！很难找全的！学完少走99%的弯_哔哩哔哩_bilibiliB站首推！2025最新版大模型AI Agent入门到精通实战教程！包含所有知识点(Agent+RAG+LangGraph)存下吧！很难找全的！学完少走99%的弯共计99条视频，包括：AI大模型从0到1学习路线指南、1-2 带你快速了解大语言模型(LLM)基础与发展、1-3 国内外主要LLM及特点介绍等，UP主更多精彩视频，请关注UP账号。https://www.bilibili.com/video/BV1SqKHeUEm5/?spm_id_from=333.1387.favlist.content.click

【DeepSeek教程】清华大学带你从入门到精通，全程干货无废话！少走99%的弯路！存下吧！很难找全的！_哔哩哔哩_bilibili【DeepSeek教程】清华大学带你从入门到精通，全程干货无废话！少走99%的弯路！存下吧！很难找全的！共计6条视频，包括：DeepSeek到底是什么？、DeepSeek实用技能分享、Deepseek进阶教程等，UP主更多精彩视频，请关注UP账号。https://www.bilibili.com/video/BV1b8AkePEw4/?spm_id_from=333.1387.favlist.content.click2025吃透AI大模型微调全套视频教程，逼自己一个月学完，让你少走99%弯路【LLM+RAG+Langchain+ChatGLM-4+OpenAI】_哔哩哔哩_bilibili2025吃透AI大模型微调全套视频教程，逼自己一个月学完，让你少走99%弯路【LLM+RAG+Langchain+ChatGLM-4+OpenAI】共计94条视频，包括：1可跳过进入正片，课前老师介绍、2.RAG VS Fine-Tuning模型微调、3.大模型企业级业务场景落地方案实践等，UP主更多精彩视频，请关注UP账号。https://www.bilibili.com/video/BV1Rg6tY3E4g/?spm_id_from=333.1387.favlist.content.click

B站强推！2024公认最通俗易懂的【Transformer】教程，125集付费课程（附资料）神经网络_注意力机制_深度学习_BERT_大模型_哔哩哔哩_bilibiliB站强推！2024公认最通俗易懂的【Transformer】教程，125集付费课程（附资料）神经网络_注意力机制_深度学习_BERT_大模型共计100条视频，包括：1.1.1Transformer背景介绍、2.2.1认识Transformer架构-part1、3.2.1认识Transformer架构-part2等，UP主更多精彩视频，请关注UP账号。https://www.bilibili.com/video/BV1Hm421g7u9/?spm_id_from=333.1387.favlist.content.clickAI大模型全套教程（LLM+RAG+Langchain+国产大模型ChatGLM-4+NLP新模型Transformer+DeepSeek部署）-马士兵_哔哩哔哩_bilibiliAI大模型全套教程（LLM+RAG+Langchain+国产大模型ChatGLM-4+NLP新模型Transformer+DeepSeek部署）-马士兵共计69条视频，包括：私有大模型部署和调参：AI大模型开发是干什么的？、私有大模型部署和调参：AI大模型的基本概念、私有大模型部署和调参：RAG的原理等，UP主更多精彩视频，请关注UP账号。https://www.bilibili.com/video/BV1g1CKYUExu/?spm_id_from=333.1387.favlist.content.click

【全748集】清华大佬终于把AI大模型（LLM）讲清楚了！通俗易懂，2024最新内部版！拿走不谢，学不会我退出IT圈！_哔哩哔哩_bilibili【全748集】清华大佬终于把AI大模型（LLM）讲清楚了！通俗易懂，2024最新内部版！拿走不谢，学不会我退出IT圈！共计137条视频，包括：1-1 课程内容介绍、1-2 课程大纲、1-3 课程计划等，UP主更多精彩视频，请关注UP账号。https://www.bilibili.com/video/BV1rS411F735/?spm_id_from=333.1387.favlist.content.click&vd_source=66d139c8a7a974f25fb6bb9383b07c1a

【喂饭教程】使用Unsloth+Ollama3微调与部署大语言模型！精调Ollama+调用训练后的模型！（附所需文档）_哔哩哔哩_bilibili【喂饭教程】使用Unsloth+Ollama3微调与部署大语言模型！精调Ollama+调用训练后的模型！（附所需文档）共计3条视频，包括：1、Windows安装大语言模型环境、2、使用unsloth精调大语言模型Llama3.1 _ 微调_fine-tuning、3、使用ollama调用unsloth训练的模型_ GGUF_等，UP主更多精彩视频，请关注UP账号。https://www.bilibili.com/video/BV1bQckewE6M?spm_id_from=333.788.videopod.episodes&vd_source=66d139c8a7a974f25fb6bb9383b07c1a

7.向量数据库

向量数据库学习资料如下

三天搞定【大模型系列】之向量数据库教程（搭建、原理、实战）_哔哩哔哩_bilibili三天搞定【大模型系列】之向量数据库教程（搭建、原理、实战）共计5条视频，包括：1-向量数据库介绍 Vector和Embedding关系、2-向量数据库的功能、特性、发展和基本原理、3-向量数据库的技术与混合搜索系统等，UP主更多精彩视频，请关注UP账号。https://www.bilibili.com/video/BV1AXnZejEh6/?spm_id_from=333.337.search-card.all.click&vd_source=66d139c8a7a974f25fb6bb9383b07c1a

8.知识图谱

常用学习网址和资料

1.opencsg huggingface

可以在这里学习一下常见的模型代码 数据集进行研究

OpenCSG(开放传神) 打造 Hybrid Huggingface plus 开源社区 开放传神 OpenCSG 传神社区 官网OpenCSG愿景： 让大模型赋能每一个人,大模型驱动全民，推动技术创新，OpenCSG——平台有各个领域的大模型，提供模型探索体验、推理、训练、部署和应用的一站式服务，共建模型开源社区，发现、学习、定制和分享心仪的模型。https://opencsg.com/models