LLM 全景与学习路线
大语言模型（Large Language Model, LLM）本质上是一个用海量文本训练出来的条件概率分布：给定一段上文 x₁, x₂, ..., xₙ，它输出下一个 token 的概率分布 P(xₙ₊₁ | x₁..xₙ)。ChatGPT、Claude、Qwen、DeepSeek 这些产品的全部能力——对话、写作、编程、推理——都是从这一个看似简单的目标里"长"出来的。
一个 LLM 的一生
原始互联网文本
│
▼ (1) 数据工程：清洗、去重、过滤、配比
高质量语料（数万亿 token）
│
▼ (2) 分词：BPE 切分为 token 序列
token 流
│
▼ (3) 预训练：next-token prediction，数千张 GPU 跑数月
基座模型（Base Model） ← 只会"续写"，不会"对话"
│
▼ (4) 监督微调 SFT：人工/合成指令数据
指令模型（会回答问题）
│
▼ (5) 偏好对齐：RLHF / DPO
对齐模型（有用、诚实、无害）
│
▼ (6) 推理部署：KV Cache、量化、连续批处理
线上服务
本系列文档的目标：不仅讲清楚每一步为什么这么做，还要给出可以跑起来的代码，最终带你亲手训练出一个（小规模的）LLM。
学习路线图
| 阶段 | 文档 | 你将获得 |
|---|---|---|
| ① 数学地基 | 数学基础 | 线代、概率、信息论、优化中最小必要子集 |
| ② 文本→数字 | 分词器 | 手写 BPE，理解词表如何构建 |
| ③ 架构 | Transformer 逐层推导 | 注意力、RoPE、RMSNorm、SwiGLU 的数学与代码 |
| ④ 动手 | 从零实现 mini-LLM | 一份 300 行可训练可采样的完整 PyTorch 实现 |
| ⑤ 燃料 | 训练数据集工程 | 语料来源、清洗、去重、质量过滤、配比 |
| ⑥ 炼金 | 预训练工程 | 超参、学习率调度、分布式并行、loss 诊断 |
| ⑦ 驯化 | 微调与对齐 | SFT、RLHF、DPO 的原理与实现 |
| ⑧ 服役 | 推理与部署 | KV Cache、采样策略、量化、vLLM |
读之前需要的准备
- Python 与 PyTorch：能读懂
nn.Module、forward、反向传播即可，不需要精通。 - 数学：不需要先修完数学系课程。第 2 篇会按需补齐，遇到公式时能"读懂符号、理解直觉"即可。
- 硬件：第 5 篇的 mini-LLM 在单张消费级 GPU（甚至 CPU 上用小配置）就能训练出能看的文本；后面章节的工业级内容以理解为主。
三个先建立的心智模型
-
规模即能力（Scaling Law）：LLM 的 loss 随参数量 N、数据量 D、算力 C 呈幂律下降。能力不是被"设计"出来的，而是被"规模"涌现出来的。这解释了为什么所有厂商都在堆卡。
-
一切都是 token 预测：模型没有"知识库"也没有"推理引擎"，它只是在反复做 next-token 预测。对话、推理、代码能力都是这个目标的副产品——理解这一点，才能理解它的强项（流畅、博学）与弱项（幻觉、算术差）。
-
数据质量 > 数据数量 > 架构微调：实践证明，同样的算力预算下，清洗得更干净、配比更合理的数据带来的收益，往往大于花哨的架构改动。这也是为什么本系列用整整一篇讲数据集。
Ready？从 数学基础 开始。