大语言模型基础：从零到一实现之路

徐经纬

课程目录

课程目录

  1. 课程简介
  2. 特征空间的变换：模型如何前向执行
  3. 特征空间的变换：梯度如何反向传播，参数如何学习

![bg right:50% 90%](images/hero-large_2x.png)

- [课程概览](lecture1.html)

# 大语言模型应用开发

<!--

4. [ 大语言模型解析 I: Input/Positional Embedding](2025/lecture4.html) 5. [ 大语言模型解析 II: RMSNorm/FFN](2025/lecture5.html) 6. [ 大语言模型解析 III: Attention Mechanism I](2025/lecture6.html) 7. [ 大语言模型解析 IV: Attention Mechanism II](2025/lecture7.html) 8. [ 大语言模型解析 V: Attention Mechanism III](2025/lecture8.html) 9. [ 大语言模型解析 VI: 数据，模型运行，代码](2025/lecture9.html)

--- 课程目录 10. [大语言模型解析 VII: 模型训练二三事](2025/lecture10.html) 11. [大语言模型解析 VIII: 模型推理二三事](2025/lecture11.html) 12. [大语言模型解析 IX: Sparse Attention](2025/lecture12.html) 13. [大语言模型推理应用: 检索增强生成](2025/lecture13.html) 14. [大语言模型推理应用: 检索增强生成II](2025/lecture14.html)