Ch06 机器学习 · 复习大纲 (考研/期末)¶
覆盖 5 节: 经典 ML → 梯度 ML → 深度学习 → 分布式训练 → 强化学习
本书定位: Ch06 是 Ch05 的工程应用层 — Ch05 给概率/信息论工具 (Bayes 公式、KL 散度、熵、正态分布、LLN/CLT、共轭先验), Ch06 把这些工具落到可训练的模型上 (朴素贝叶斯 = Bayes + 条件独立、决策树 = 互信息驱动分裂、BCE/CCE = KL + 常数项、注意力 = 内积 + softmax、正态假设 → 初始化与 BN、LLN+CLT → SGD 收敛理论、Poisson 过程 → RL 探索策略)。
承 Ch05 口诀 (开篇, 全文复用一次): "Ch05 给概率/信息论, Ch06 给 ML 算法应用 — 信息增益=互信息, 交叉熵=KL+常数, perplexity=2^H, 朴素贝叶斯=Bayes+条件独立, 正态=初始化+BN, LLN+CLT=SGD 收敛, 折扣因子 δ=RL 中的衰减系数"。
承 Ch04: Ch04 §03 抽样分布 ↔ Ch06 §02 SGD 噪声梯度; Ch04 §05 假设检验第一/二类错误 ↔ Ch06 §05 RL 探索中的 FP/FN。
承 Ch03: Ch03 §02 多元 Jacobian ↔ Ch06 §03 反向传播 VJP; Ch03 §03 Taylor ↔ Ch06 §02 SGD 局部线性近似; Ch03 §05 Newton/GD ↔ Ch06 §02 优化器族。
承 Ch02: Ch02 矩阵分解 ↔ Ch06 §03 注意力 QKᵀ 矩阵; Ch02 正交投影 ↔ Ch06 §01 LDA 投影方向; Ch02 范数 ↔ Ch06 §02 L1/L2 正则。
跨章符号 v2 (强制标注): - λ (正则化系数 Ch06 §02) / 特征值 Ch02 / Lagrange 乘子 Ch03 / Poisson 率 Ch05 — 同章内首次出现必标"λ (正则化)" - α (学习率别名 Ch06 §02 / 平滑参数 Laplace Ch06 §01 / α 散度 Ch05) — 首次出现必标 - β (优化器动量 Ch06 §02 / 类别先验 Ch06 §01 / 回归系数 Ch02 / Type II 错误 Ch04) — 首次出现必标 - δ (ε-δ 极限 Ch03 / Dirac δ Ch05 / 学习率步长 Ch06 / RL 折扣因子 Ch06 §05) — 首次出现必标 - ε (ε-δ 极限 Ch03 / 隐私预算 Ch21 / ε-greedy Ch06 §05 / 数值精度 Ch06 §03) — 首次出现必标 - η (学习率 Ch06 §02 / 拒绝水平 Ch04 / 渐近效率 Ch05) — 首次出现必标 - γ (折扣率别名 Ch06 §05 / BatchNorm 缩放 Ch06 §03 / 强化学习 reward 折扣) — 首次出现必标 - ε/δ 区分: Ch03 ε-δ (极限) vs Ch06 ε-greedy (探索) vs Ch21 ε-δ (隐私) — 上下文必区分
一、考点分级速览¶
两套标签: - 考频 (纵向): 🔴必考 / 🟡常考 / 🟢拓展 - 难度 (横向): 🟢入门 L1-L2 / 🟡进阶 L3-L4 / 🔴高阶 L5-L6 - ⭐: 主干外可跳过
| 考频 | 考点 | 说明 |
|---|---|---|
| 🔴必考 | 监督 vs 无监督 vs 强化学习三分 · 分类 vs 回归 · 生成式 vs 判别式 · 线性回归 MSE + 闭式解 · 逻辑回归 Sigmoid + BCE · 朴素贝叶斯 + Laplace 平滑 · 决策树 ID3/C4.5/CART (Gini/熵) · 梯度下降 + 学习率 η · SGD/Mini-batch · 反向传播链式法则 · 偏差-方差分解 · L1/L2 正则 · MLP 与万能逼近 · 激活函数 ReLU/Sigmoid/Tanh/GELU · BatchNorm/LayerNorm · 交叉熵损失 (BCE/CCE) · Softmax + 多分类 · CNN 卷积/池化/步长/填充 · RNN/LSTM 门控 · Attention(Q,K,V) = softmax(QKᵀ/√d_k)V · 多头/位置编码 · Xavier/He 初始化 · Dropout · 优化器族 (SGD/Momentum/Adam) · 数据并行/模型并行 · AllReduce · 同步 SGD · MDP 五元组 (S,A,P,R,γ) · Bellman 方程 · Q-Learning 迭代 · 策略梯度 ∇log π · REINFORCE · 偏差-方差-噪声三难 | 考研/期末核心命题池 |
| 🟡常考 | KNN 距离度量 · SVM 间隔/对偶/核 · PCA 推导 + 重建误差 · k-means 迭代 · 集成 Bagging/Boosting · 随机森林 · AdaBoost · 交叉验证 k 折 · 精确率/召回率/F1 · ROC-AUC · 混淆矩阵 · 动量 SGD · Adam 偏差修正 · 学习率衰减策略 · 梯度消失/爆炸 · 残差连接 · 早停 · 过拟合与欠拟合 · 数据增强 · 词嵌入 word2vec/GloVe · Beam Search · PPO 截断目标 · Actor-Critic · DQN 经验回放 · 折扣因子 γ (RL) · ε-greedy 探索 · 同步/异步 SGD · 梯度压缩 · 混合精度训练 | 中题量 |
| 🟢拓展 | VC 维 ⭐ · 核方法 (RBF/多项式核) ⭐ · 高斯过程 ⭐ · 流形学习 (t-SNE/UMAP) ⭐ · 多标签/多分类策略 (OvR/OvO) ⭐ · 类别不平衡 ⭐ · Transformer 变体 (GPT/BERT 架构对比) ⭐ · 状态空间模型 SSM/Mamba ⭐ · 变分自编码器 VAE / ELBO ⭐ · 专家混合 MoE ⭐ · 分布式: 参数服务器 vs Ring AllReduce ⭐ · ZeRO 优化器分片 ⭐ · 联邦学习 FedAvg ⭐ · DDP ⭐ · 张量并行 ⭐ · 重要性采样 · 信任域 TRPO ⭐ · DDPG/SAC ⭐ · 模仿学习 ⭐ · 逆强化学习 ⭐ · 多智能体强化学习 ⭐ | 综合题/拔高 |
跨章主线 (Ch05→Ch06): 概率 → 推断 → 损失 → 优化 → 部署。每一步都有 Ch05 对应工具, 记住"互信息驱动树分裂、KL 驱动交叉熵、LLN+CLT 给 SGD 收敛证明、Bayes 给朴素贝叶斯"这条主线。
二、考点详解¶
🔴考点 1 · 三种学习范式: 监督/无监督/强化 — 难度 🟢 L1¶
| 范式 | 输入 | 目标 | 典型算法 | Ch05 对应 |
|---|---|---|---|---|
| 监督学习 | \((x, y)\) 配对 | 学 \(f: x \to y\) | 线性回归/逻辑回归/SVM/决策树/神经网络 | 条件概率 \(P(y\|x)\) |
| 无监督学习 | \(x\) 无标签 | 挖结构 | k-means/PCA/自编码器/密度估计 | 联合分布 \(P(x)\) / 边缘 \(P(x_i)\) |
| 强化学习 | \((s, a, r, s')\) 轨迹 | 最大化累计奖励 | Q-Learning/Policy Gradient/PPO | MDP 转移概率 \(P(s'\|s,a)\) |
- 大白话: 监督 = 给答案学; 无监督 = 不给答案自己找; 强化 = 边做边学 (像训狗)。
- 生成式 vs 判别式 (二分类子分): 生成式学 \(P(x,y)\) (朴素贝叶斯、VAE、GAN), 判别式学 \(P(y\|x)\) (逻辑回归、SVM、神经网络)。
- 数字锚点: 房价预测 = 回归 (监督); 客户分群 = 聚类 (无监督); 下棋/自动驾驶 = 强化学习。
- 典型题型: 给场景判范式; 判生成式/判别式; 跨章连接 Ch05。
🔴考点 2 · MSE 损失与线性回归闭式解 — 难度 🟢 L2¶
正规方程 (闭式解): $\(w^* = (X^\top X)^{-1} X^\top y\)$
- 数字例: 3 个点 \((1,1), (2,3), (3,4)\)。$$ X=\begin{pmatrix}1&1\1&2\1&3\end{pmatrix} $$, \(y=(1,3,4)^\top\)。$$ X^\top X=\begin{pmatrix}3&6\6&14\end{pmatrix} $$, $$ X^\top y = \begin{pmatrix}8\19\end{pmatrix} $$。解 \(w^* \approx (0.333, 1.1)^\top\) (Pyodide 可验, MSE ≈ 0.156)。
- Ch05 概率意义: 若 \(y = Xw + \epsilon\), \(\epsilon \sim \mathcal{N}(0, \sigma^2)\), 则 MLE = 闭式解。"最小化 MSE = 最大化高斯对数似然"。
- 闭式解 vs 梯度: \(d \le 10^4\) 闭式可解; \(d > 10^4\) 或 \(X^\top X\) 奇异 (如 \(d > n\)) → 必须用 GD。
- 反例陷阱: "正规方程一定存在" ❌ — 当 \(X^\top X\) 不可逆 (特征共线 / \(d>n\)) 时正规方程无解, 需加正则化 (岭回归)。
- 典型题型: 算正规方程; 判何时退化; MSE 数值验算。
🔴考点 3 · 逻辑回归与 Sigmoid — 难度 🟢 L2¶
Sigmoid: \(\sigma(z) = \frac{1}{1+e^{-z}}\) - 导数: \(\sigma'(z) = \sigma(z)(1-\sigma(z))\) (核心性质, 反向传播中常考) - 数字例: \(\sigma(0)=0.5\), \(\sigma(2) \approx 0.881\), \(\sigma(-2) \approx 0.119\)
BCE 损失: $\(\mathcal{L} = -\frac{1}{n}\sum_{i=1}^{n}\left[y_i\log \hat y_i + (1-y_i)\log(1-\hat y_i)\right]\)$
- 承 Ch05: 伯努利似然取负对数 = BCE (单位: nat, 因 \(\log = \ln\); 若写 \(\log_2\) 则为 bit — 必须标注, 见 §1.13)。
- 数字例: 真实 \(y=1\), 预测 \(\hat y = 0.9\) ⇒ 单样本损失 \(= -\log 0.9 \approx 0.105\) nat; 预测 \(\hat y = 0.01\) ⇒ 损失 \(= -\log 0.01 \approx 4.61\) nat ("自信错"代价大)。
- 易错: "BCE 越小越好, 但 \(\hat y\) 越接近 0/1 越好" — 不完全对, \(\hat y=0\) 或 \(1\) 会导致 \(\log 0\) 数值不稳定, 实际代码里要加 \(\epsilon\) 截断 (数值精度 \(\epsilon\), 必须标 §1.12)。
- 反例陷阱: "Sigmoid 输出 = 概率" 仅在模型校准 (calibrated) 时成立; 否则仅是 ranking score。
- 典型题型: 求 Sigmoid 导数; 算 BCE; 解释"自信错"代价。
🔴考点 4 · Softmax + 多分类交叉熵 (CCE) — 难度 🟡 L2¶
Softmax: \(\text{softmax}(z_i) = \frac{e^{z_i}}{\sum_j e^{z_j}}\), 输出概率分布。 CCE (多分类): $\(\mathcal{L} = -\frac{1}{n}\sum_{i=1}^{n}\sum_{c=1}^{C} y_{ic}\log \hat y_{ic}\)$
- Ch05 关系: CCE = 真实分布 \(y\) 与预测分布 \(\hat y\) 的交叉熵 \(H(y, \hat y)\)。恒等式: \(H(p, q) = H(p) + D_{KL}(p\|q)\), 故 CCE = \(H(y) + D_{KL}(y\|\hat y)\)。最小化 CCE ≡ 最小化 KL 散度 (因 \(H(y)\) 对样本为常数)。
- 数字例: 3 类, 真标签 \((0,1,0)\), 预测 \(\hat y = (0.1, 0.7, 0.2)\) ⇒ \(\mathcal{L} = -\log 0.7 \approx 0.357\) nat。
- 易错: Softmax 在数值上过 \(e^{z_i}\) 易爆 — 工程上要先减最大值 (max-trick): \(\text{softmax}(z_i) = e^{z_i - \max z}/\sum e^{z_j - \max z}\)。
- 典型题型: Softmax 求导; CCE + KL 互证; 数值稳定性。
🔴考点 5 · 朴素贝叶斯 + Laplace 平滑 — 难度 🟡 L2¶
核心: \(\hat y = \arg\max_{k} P(C_k)\prod_{i=1}^{n} P(x_i\|C_k)\)
- "朴素"假设: 特征给定类别条件独立 — 来自 Ch05 §14 条件独立。
- 三变体:
- 多项式 NB: 文本词频 (词袋), 似然 \(P(x_i=x\|C_k) = \frac{\text{count}(x_i, C_k)}{\text{count}(C_k)}\)
- 高斯 NB: 连续特征, 似然 \(\mathcal{N}(\mu_{ik}, \sigma_{ik}^2)\)
- 伯努利 NB: 二值特征 (出现/不出现)
- Laplace 平滑: \(P(x_i\|C_k) = \frac{\text{count}(x_i, C_k) + \alpha}{\text{count}(C_k) + \alpha V}\) (α 通常 1)
- 数字例: 训练集 100 封邮件, 40 垃圾 / 60 正常。词 "free" 在垃圾邮件中 30 次, 正常邮件 5 次。\(P(\text{free}\|\text{垃圾}) = 30/40 = 0.75\), \(P(\text{free}\|\text{正常}) = 5/60 \approx 0.083\)。
- 承 Ch05: 直接套 Bayes 公式 + 条件独立。
- 典型题型: 算后验; 验证条件独立假设; 解释为何 Laplace 必要。
🔴考点 6 · 决策树与信息增益 (Gini/熵) — 难度 🟡 L3¶
Gini 不纯度: \(\text{Gini}(S) = 1 - \sum_{k=1}^{K} p_k^2\) 熵 (Ch05 互信息对应): \(H(S) = -\sum_k p_k \log_2 p_k\) 信息增益: \(\text{IG}(S, \text{split}) = H(S) - \frac{|S_L|}{|S|}H(S_L) - \frac{|S_R|}{|S|}H(S_R)\)
- 大白话: 一次分裂让子集变"纯"多少。信息增益 = Ch05 互信息 \(I(X_{\text{split}}; Y)\), 这是 ID3 算法核心。
- 数字例: 父节点 16 正 16 负 (\(H=1\) bit)。某分裂得左 14 正 2 负 (\(H \approx 0.543\)), 右 2 正 14 负 (\(H \approx 0.543\))。\(\text{IG} = 1 - 0.5 \times 0.543 - 0.5 \times 0.543 \approx 0.457\) bit。
- Gini vs 熵: 二分类最大 Gini = 0.5, 最大熵 = 1 bit; 实践中几乎无差异, sklearn 默认 Gini (略快, 免对数)。
- 回归树: 分裂准则换为方差下降, 叶节点为均值。
- 剪枝: 预剪枝 (max_depth/min_samples_leaf); 后剪枝 (cost-complexity \(\alpha\) — 此处 α 与 Laplace/学习率同字符, 必标 "α (剪枝)")。
- 反例陷阱: "决策树不会过拟合" ❌ — 不剪枝的决策树 100% 过拟合 (每个叶一个样本)。
- 典型题型: 算 IG/Gini; 选分裂; 算剪枝代价。
🔴考点 7 · 梯度下降 (GD/SGD/Mini-batch) — 难度 🟡 L2¶
| 变体 | 每次样本数 | 梯度质量 | 单步成本 | 并行性 |
|---|---|---|---|---|
| 批量 GD | \(n\) | 精确 | \(O(n)\) | 整批矩阵乘 |
| 随机 GD (SGD) | 1 | 噪声大 | \(O(1)\) | 弱 |
| Mini-batch GD | \(B\) (32/64/256) | 较稳 | \(O(B)\) | GPU 友好 ✓ |
- 学习率 η (Ch03 §05 同名, 必标 "η (学习率)"): 太大震荡, 太小卡顿。
- 数字例: 凸函数 \(f(w) = (w-3)^2\), \(\eta=0.1\), 起点 \(w_0=0\) ⇒ \(w_1 = 0 - 0.1 \times 2 \times (0-3) = 0.6\) ⇒ \(w_2 = 0.6 - 0.12 = 0.48\) ... 单调收敛到 3 (Pyodide 可验)。
- 承 Ch05: SGD 收敛 = LLN (\(\bar X \to \mu\)); SGD 渐近正态 = CLT (Polyak-Ruppert averaging)。
- 易错: "SGD 比 GD 慢" ❌ — 单步 GD 慢, 但总迭代数少; SGD 总能快几个数量级。
- 典型题型: 算单步更新; 选学习率; 解释 mini-batch 优势。
🔴考点 8 · 反向传播 (链式法则工程化) — 难度 🟡 L3¶
核心: \(\frac{\partial \mathcal{L}}{\partial w} = \frac{\partial \mathcal{L}}{\partial z} \cdot \frac{\partial z}{\partial w}\) (Ch03 链式法则, Ch03 §02 Jacobian 形状契约)
- 承 Ch03: 反向传播 = reverse-mode autodiff = VJP, 不说"显式构造完整 Jacobian" (见 WRITING_TEMPLATE §1.5)。
- 计算图: 每个节点 = 一个 op, 局部导数 + 上游梯度; 反向代价 ≈ 2× 前向。
- 数字例: \(L = (wx - y)^2\), \(\partial L/\partial w = 2(wx-y) \cdot x\)。\(w=0.5, x=2, y=3\) ⇒ \(L = (1-3)^2 = 4\)。\(\partial L/\partial w = 2 \times (-2) \times 2 = -8\), \(w \leftarrow 0.5 - \eta \times (-8) = 0.5 + 0.8\eta\)。
- 典型题型: 算复合梯度; 解释 VJP; 计算图 vs Jacobian 关系。
🔴考点 9 · 优化器族: SGD/Momentum/Adam — 难度 🟡 L3¶
SGD + 动量 (β 动量, 必标 "β (动量)"): $\(v_t = \beta v_{t-1} + \nabla \mathcal{L}, \quad w \leftarrow w - \eta v_t\)$ (等价写法 \(v_t = \beta v_{t-1} + (1-\beta) g_t\), 取决于是否含 \(1-\beta\))
Adam (Kingma 2014): $\(m_t = \beta_1 m_{t-1} + (1-\beta_1) g_t \quad \text{(一阶矩)}\)$ $\(v_t = \beta_2 v_{t-1} + (1-\beta_2) g_t^2 \quad \text{(二阶矩)}\)$ $\(\hat m_t = \frac{m_t}{1-\beta_1^t}, \quad \hat v_t = \frac{v_t}{1-\beta_2^t} \quad \text{(偏差修正)}\)$ $\(w \leftarrow w - \eta \frac{\hat m_t}{\sqrt{\hat v_t} + \epsilon}\)$
- 默认值: \(\beta_1=0.9, \beta_2=0.999, \epsilon=10^{-8}, \eta=10^{-3}\)。
- 数字例: 假设第 1 步 \(g_1 = 0.1\) ⇒ \(m_1 = 0.01, v_1 = 10^{-5}\) ⇒ \(\hat m_1 = 0.01/0.1 = 0.1, \hat v_1 = 10^{-5}/0.001 = 0.01\) ⇒ 步长 \(\eta \times 0.1/\sqrt{0.01} = 0.1 \eta\)。
- 承 Ch05 LLN/CLT: 动量 = 指数加权平均 (EMA), 对应 Ch04 EMA 公式。
- 易错: 不写偏差修正的 Adam 在前几步低估 \(m_t, v_t\) (因 \(m_0=v_0=0\)), 必须显式说明 \(\hat m_t, \hat v_t\)。
- 典型题型: 算单步 Adam; 比较 SGD vs Adam 收敛曲线; 解释偏差修正。
🔴考点 10 · L1/L2 正则化 — 难度 🟡 L2¶
- ⛔ 用词铁律 (WRITING_TEMPLATE §1.9): "L1 正则化诱导稀疏解", 禁止说"L1 范数稀疏友好" — 范数本身不稀疏, 是优化中作为正则项时才使解稀疏。
- 承 Ch02: \(\|w\|_1\) = 各分量绝对值和; \(\|w\|_2^2 = \sum w_i^2\)。
- 数字例: \(\mathcal{L} = (wx-y)^2 + \lambda w^2\), 令 \(\partial/\partial w = 0\) ⇒ \(w = \frac{\sum x_i y_i}{\sum x_i^2 + \lambda}\) (闭式解, 比无正则版本分母多 \(\lambda\))。
- 比较表: | 性质 | L1 | L2 | |---|---|---| | 解的稀疏性 | 强 (很多 \(w_i=0\)) | 弱 (全部 \(w_i\) 都小) | | 计算 | 不可微, 需次梯度 | 可微, 闭式 | | 特征选择 | 等价 | 不等价 | | 鲁棒性 | 对异常值较稳 | 对异常值敏感 (平方放大) |
- 典型题型: 算闭式带 L2; 比较 L1 vs L2 解形状; Dropout vs L2 区别 (见对比表 §五)。
🔴考点 11 · 偏差-方差分解 — 难度 🟡 L3¶
- 大白话: 偏差 = 平均偏离真值多远 (模型太简单欠拟合); 方差 = 换数据集预测飘多少 (模型太复杂过拟合)。
- 数字例: 用 1 次多项式拟合 100 个真点 (含 \(\sigma=0.1\) 噪声) ⇒ bias² 很大; 用 99 次多项式 ⇒ var 爆炸 (过拟合噪声)。
- 承 Ch04: 不可约噪声 \(\sigma^2\) = Ch04 §05 残差方差。
- 反例陷阱: "训练误差小 = 好模型" ❌ — 可能过拟合 (低 bias, 高 var); 需看验证误差。
- 典型题型: 给学习曲线判欠/过拟合; 算偏差方差; 选正则强度。
🔴考点 12 · MLP 与万能逼近定理 — 难度 🟡 L2¶
单层: \(h = \sigma(Wx + b)\) 万能逼近: 一个隐藏层 + 足够多神经元 → 可逼近任意紧集上连续函数 (任意精度)。
- 数字例: XOR 单层感知机不可分; 2 层 (4 神经元) 可分 — 这是非线性必要性的最经典反例。
- 矩阵形状契约 (Ch02): \(W \in \mathbb{R}^{d_{\text{out}} \times d_{\text{in}}}, x \in \mathbb{R}^{d_{\text{in}}}, b \in \mathbb{R}^{d_{\text{out}}}\)。批处理 \(X \in \mathbb{R}^{B \times d_{\text{in}}}\), 输出 \(H = XW^\top + b \in \mathbb{R}^{B \times d_{\text{out}}}\)。
- 易错: "万能逼近 = 深度万能" ❌ — 万能逼近只保证 1 隐藏层可逼近, 实际深度用指数级更少参数。
- 典型题型: 算 MLP 输出形状; 用 XOR 解释非线性必要性; 区分"逼近"vs"优化可达"。
🔴考点 13 · 激活函数四件套 — 难度 🟡 L2¶
| 函数 | 公式 | 范围 | 零中心 | 梯度饱和 |
|---|---|---|---|---|
| ReLU | \(\max(0,x)\) | \([0,\infty)\) | 否 | 负半轴死神经元 |
| Sigmoid | \(1/(1+e^{-x})\) | \((0,1)\) | 否 | 两端饱和 |
| Tanh | \((e^x-e^{-x})/(e^x+e^{-x})\) | \((-1,1)\) | 是 ✓ | 两端饱和 |
| GELU | \(x \cdot \Phi(x)\) | \(\mathbb{R}\) | 近是 | 弱 |
- 数字例: ReLU 在 \(x<0\) 死神经元, 故 Google 推 Leaky ReLU \(f(x) = \max(\alpha x, x)\) (α = 0.01)。
- 典型题型: 画曲线; 选激活; 解释梯度消失/爆炸。
🔴考点 14 · 权重初始化: Xavier/He — 难度 🟡 L2¶
| 初始化 | 适用激活 | 方差 | 数字例 \(d=100\) |
|---|---|---|---|
| Xavier (Glorot) | tanh/sigmoid | \(2/(d_{\text{in}} + d_{\text{out}})\) | \(\approx 0.01\) |
| He (Kaiming) | ReLU | \(2/d_{\text{in}}\) | \(= 0.02\) |
- 承 Ch05 正态分布: 假设 \(w \sim \mathcal{N}(0, \sigma^2)\), 选 \(\sigma^2\) 让激活方差逐层不变。
- 数字例: \(d_{\text{in}}=d_{\text{out}}=100\), Xavier \(\sigma^2 = 0.01\), 标准差 \(\sigma \approx 0.1\)。
- 反例陷阱: "Xavier 适合 ReLU" ❌ — ReLU 死一半, 需用 He (方差加倍)。
- 典型题型: 选初始化; 算方差; 解释为什么不能全 0 初始化 (对称性破缺)。
🔴考点 15 · BatchNorm / LayerNorm — 难度 🟡 L3¶
BatchNorm (沿批维归一化, 每个通道): $\(\hat x = \frac{x - \mu_B}{\sqrt{\sigma_B^2 + \epsilon}}, \quad y = \gamma \hat x + \beta\)$
- γ/β 必标: "γ (BN 缩放) / β (BN 平移)" — 与 Ch05 Beta 分布 β 同字符, 首次出现必标。
- LayerNorm (沿特征维归一化, 每个样本独立): Transformer 标配, 不依赖批大小。
- 数字例: BN 批 \(B=64\), 通道 \(C=128\), 对每个通道算 64 个样本的均值方差。
- 典型题型: 算 BN 输出; 训练/推理 BN 行为差异; BN vs LN 适用场景。
🔴考点 16 · Dropout — 难度 🟡 L2¶
- 训练: 每个神经元以概率 \(p\) 置零; 反向 Dropout 乘以 \(\frac{1}{1-p}\) (测试时不缩放)。
- 数字例: \(p=0.5\), 期望一半神经元激活, 测试时全部激活但整体激活量是训练时的 2 倍 (反向 Dropout 自动补偿)。
- 易错: "Dropout 让网络更稀疏" ❌ — Dropout 是训练时的随机化, 测试时所有神经元都激活; 稀疏性是 ReLU 产生的, 不是 Dropout。
- 典型题型: 算反向 Dropout 缩放; 与 L1/L2 对比。
🔴考点 17 · CNN 三件套: 卷积/池化/步长填充 — 难度 🟡 L2¶
2D 卷积 (滤波器 \(K\) 大小 \(k \times k\)): $\((I * K)[i,j] = \sum_{m=0}^{k-1}\sum_{n=0}^{k-1} I[i+m, j+n] \cdot K[m,n]\)$
输出尺寸: \(\text{out} = \lfloor (I_{\text{in}} - k + 2p)/s \rfloor + 1\) - \(s\) = 步长, \(p\) = 填充 ("same" 补零保尺寸, "valid" 不补) - 数字例: \(I_{\text{in}}=32, k=3, p=1, s=1\) ⇒ \(\text{out} = (32-3+2)/1 + 1 = 32\) (same); \(s=2\) ⇒ 16 (减半)。 - 池化: max-pool 取窗口最大, avg-pool 取平均; 一般 \(2 \times 2\), 步长 2。 - 共享权重: 同一滤波器扫描全图, 参数数 = \(k \times k \times C_{\text{in}} \times C_{\text{out}}\) (远少于全连接)。 - 典型题型: 算输出尺寸; 算参数量; 比较 max-pool vs avg-pool。
🔴考点 18 · RNN/LSTM 门控 — 难度 🟡 L3¶
RNN 隐态: \(h_t = \tanh(W_{hh} h_{t-1} + W_{xh} x_t + b)\)
LSTM 三门 (解决梯度消失): - 遗忘门 \(f_t = \sigma(W_f [h_{t-1}, x_t] + b_f)\): 决定丢弃多少旧信息 - 输入门 \(i_t = \sigma(W_i [h_{t-1}, x_t] + b_i)\): 决定写入多少新信息 - 输出门 \(o_t = \sigma(W_o [h_{t-1}, x_t] + b_o)\): 决定输出多少 \(h_t\) - 细胞状态 \(C_t = f_t \odot C_{t-1} + i_t \odot \tanh(W_C [h_{t-1}, x_t] + b_C)\)
- 承 Ch03: 链式法则在时间上展开, 长序列 → 梯度消失/爆炸。
- 数字例: 字符级 RNN "hello" → "ohlol" (实际训练需要 BPTT truncated)。
- 典型题型: 写 LSTM 前向; 解释三门作用; 比较 RNN/LSTM/GRU。
🔴考点 19 · 注意力 Attention(Q,K,V) — 难度 🔴 L4¶
- ⛔ √d_k 必标: 不除 \(\sqrt{d_k}\), softmax 输入过大 → 梯度近零; 原始 Transformer 论文明确点出。
- 数字例: \(d_k=64, Q K^\top\) 各元素量级 \(\sqrt{d_k}=8\), 不除则 softmax 几乎 one-hot。
- 多头: \(\text{MultiHead} = \text{Concat}(\text{head}_1, \ldots, \text{head}_h) W^O\), \(h=8\) 常用, \(d_k = d_{\text{model}}/h\)。
- 位置编码: \(\sin/\cos\) 固定式 (原始) 或学习式; 因注意力是置换不变, 必须显式加位置信息。
- 自注意力 vs 交叉: Q=K=V 同源 (encoder); Q 来自 decoder, K,V 来自 encoder。
- 典型题型: 写注意力公式; 算 \(\sqrt{d_k}\) 缩放动机; 解释多头作用; 解释位置编码必要性。
🔴考点 20 · Transformer 架构总览 — 难度 🔴 L4 ⭐¶
Encoder 块: Multi-Head Self-Attn → Add&Norm → FFN → Add&Norm Decoder 块: Masked Self-Attn → Cross-Attn → FFN (各加 Add&Norm)
- 数字例: BERT-base = 12 encoder 层, 768 隐维, 12 头, 110M 参数。
- 易错: "Transformer 没有 RNN" — 是的, 但有位置编码模拟序列; 训练可完全并行, 推理长度 \(O(n^2)\) (QKᵀ)。
- 典型题型: 画架构图; 解释残差/归一化作用; 算 FLOPs / 参数量。
🔴考点 21 · 数据并行 vs 模型并行 — 难度 🟡 L3¶
| 维度 | 数据并行 | 模型并行 |
|---|---|---|
| 切分 | 同一模型, 不同 mini-batch | 同一 batch, 不同层/分片 |
| 通信 | 同步梯度 (AllReduce) | 跨层激活传递 |
| 适用 | 模型小 (< GPU 内存) | 模型大 (单卡放不下) |
| 代表 | PyTorch DDP, Horovod | Megatron-LM 张量并行 |
- 典型题型: 选并行策略; 算通信开销。
🔴考点 22 · AllReduce 与同步 SGD — 难度 🟡 L3¶
Ring AllReduce: \(N\) 节点, 每节点分 \(N-1\) 步发 + \(N-1\) 步收, 总流量 = \(2(N-1)/N \cdot S\) (每节点 \(S\) 字节), 与 \(N\) 无关 (最优)。
- 数字例: \(N=8\) GPU, 同步 SGD 每卡 32 GB 梯度 ⇒ 通信量 \(\approx 2 \times 7/8 \times 32 \approx 56\) GB 总 (每节点 7 GB)。
- 同步 vs 异步: 同步等待慢卡 (straggler); 异步快但 staleness 引入偏差。
- 承 Ch05 LLN: 同步 SGD 等价于大批量 GD, 收敛仍由 LLN 保证。
- 典型题型: 算 AllReduce 通信量; 解释同步/异步权衡。
🔴考点 23 · MDP 五元组与 Bellman 方程 — 难度 🟡 L3¶
MDP: \(\mathcal{M} = (\mathcal{S}, \mathcal{A}, P, R, \gamma)\) - \(\mathcal{S}\) 状态空间, \(\mathcal{A}\) 动作空间 - \(P(s'\|s,a)\) 转移概率 (Ch05 条件概率) - \(R(s,a)\) 奖励函数 - γ (RL 折扣因子, 0<γ<1, 与 Ch06 BN γ 同字符, 必标): 未来奖励折扣
Bellman 方程: $\(V^\pi(s) = E_\pi[R(s,a) + \gamma V^\pi(s')], \quad Q^\pi(s,a) = E[R + \gamma \max_{a'} Q(s',a')]\)$
- 数字例: γ=0.9, 立即奖励 1, 后续每步 1 (无限长) ⇒ \(V = 1/(1-0.9) = 10\) (几何级数)。
- 承 Ch05: \(E\) 算子 = Ch05 期望; \(\gamma\) 折扣 = Ch04 几何级数。
- 典型题型: 写 Bellman 方程; 解释 γ < 1 数学原因 (保证收敛)。
🔴考点 24 · Q-Learning 迭代 — 难度 🟡 L3¶
更新规则: $\(Q(s,a) \leftarrow Q(s,a) + \alpha \big[ r + \gamma \max_{a'} Q(s', a') - Q(s,a) \big]\)$
- α (学习率, Ch06 §02 同字符, 必标): 步长, 通常随时间衰减。
- TD 目标: \(r + \gamma \max_{a'} Q(s', a')\) = 时间差分目标。
- 数字例: \(Q(s,a)=0.5\), 实际得 \(r=1\), \(s'\) 处 \(\max Q=0.8\), γ=0.9, α=0.1 ⇒ 目标 = \(1 + 0.9 \times 0.8 = 1.72\) ⇒ 更新 \(Q \leftarrow 0.5 + 0.1 \times (1.72-0.5) = 0.622\)。
- 典型题型: 算单步 Q 更新; 解释 off-policy (与 ε-greedy 兼容)。
🔴考点 25 · 策略梯度与 REINFORCE — 难度 🔴 L4¶
目标: \(J(\theta) = E_{\tau \sim \pi_\theta}[R(\tau)]\), \(R(\tau) = \sum_t \gamma^t r_t\) 梯度 (Policy Gradient Theorem): $\(\nabla_\theta J(\theta) = E[\nabla_\theta \log \pi_\theta(a\|s) \cdot R(\tau)]\)$
REINFORCE 更新: $\(\theta \leftarrow \theta + \eta \nabla_\theta \log \pi_\theta(a_t\|s_t) \cdot G_t\)$
- \(G_t\) = 从 \(t\) 开始的累计折扣回报。
- 承 Ch05: \(\log \pi\) = 自信息 (Ch05 §15); REINFORCE = likelihood ratio trick (Ch05 score function estimator)。
- 数字例: 一次轨迹 \(G_0=10\), \(\log \pi = -0.5\) ⇒ 更新方向 \(+0.5 \times 10 = 5\) (放大此动作概率)。
- 易错: "策略梯度 = 确定梯度" ❌ — 是蒙特卡洛期望, 用采样轨迹估计; 噪声大, 通常加 baseline 减方差。
- 典型题型: 写 PG 公式; 解释 log 出现原因 (便于采样更新); 解释 baseline 减方差。
🟡考点 26 · KNN 距离度量 — 难度 🟢 L1¶
- 距离: 欧氏 (\(L^2\))、曼哈顿 (\(L^1\))、闵可夫斯基 (\(L^p\))、余弦。
- 数字例: 3-NN 投票多数类, 加权 KNN 按距离倒数加权。
- 典型题型: 算 KNN 分类; 选 K; 比较距离度量。
🟡考点 27 · SVM 间隔与对偶 — 难度 🔴 L4¶
原始: \(\min \frac{1}{2}\|w\|^2\) s.t. \(y_i(w \cdot x_i + b) \ge 1\) 对偶: \(\max \sum \alpha_i - \frac{1}{2}\sum_{i,j}\alpha_i\alpha_j y_i y_j (x_i \cdot x_j)\)
- 间隔: margin = \(2/\|w\|\), 最小化 \(\|w\|\) 等价最大化间隔。
- 核函数: \(K(x, x') = \phi(x) \cdot \phi(x')\), RBF/多项式核; 核 ≠ 深度学习核 (同词异义, 必标)。
- 典型题型: 写对偶; 解释支持向量; 选核函数。
🟡考点 28 · PCA 与重建误差 — 难度 🟡 L3¶
目标: 找方向 \(w\) 最大化投影方差 \(\text{Var}(w^\top x) = w^\top \Sigma w\), \(\|w\|=1\)。 解: 协方差矩阵 \(\Sigma\) 的前 \(k\) 大特征值对应的特征向量 (Ch02 §04 特征分解)。
- 数字例: 2D 数据沿 \(y=x\) 拉伸, $$ \Sigma = \begin{pmatrix}2&1.5\1.5&2\end{pmatrix} $$, 特征值 3.5, 0.5, 特征向量 \((1,1)/\sqrt{2}\) 与 \((1,-1)/\sqrt{2}\)。第一主成分方向 \((1,1)/\sqrt{2}\), 解释 87.5% 方差。
- 承 Ch02: PCA = 谱分解; Ch01 §1.3 基变换 \(P\) = 特征向量矩阵。
- 典型题型: 算 PCA 方向; 解释方差贡献率; 选 \(k\) (scree plot)。
🟡考点 29 · k-means 聚类 — 难度 🟢 L2¶
迭代: (1) 分配每点到最近中心; (2) 更新中心为均值; 直至收敛。 - 数字例: 4 点 \((0,0),(0,1),(10,0),(10,1)\), \(k=2\) ⇒ 最终中心 \((0,0.5), (10,0.5)\)。 - 易错: k-means 假设簇球形等大, 对异常值敏感; 初始化用 k-means++。 - 典型题型: 算 k-means 迭代; 选 \(k\) (肘部法/轮廓系数)。
🟡考点 30 · 集成方法: Bagging/Boosting/RF — 难度 🟡 L3¶
| 方法 | 训练方式 | 代表 | 减小 |
|---|---|---|---|
| Bagging | 并行, bootstrap 采样 | 随机森林 | 方差 |
| Boosting | 顺序, 加权错分样本 | AdaBoost/GBDT | 偏差 |
| Stacking | 元学习器组合 | — | 视情况 |
- 数字例: 100 棵决策树投票, 各树随机看 63% 数据 + \(\sqrt{d}\) 特征。
- 典型题型: 比较 Bagging/Boosting; 解释随机森林"双重随机"。
🟡考点 31 · 评估指标: 精确率/召回率/F1/AUC — 难度 🟡 L2¶
| 指标 | 公式 | 关注 |
|---|---|---|
| 精确率 P | TP/(TP+FP) | 预测为正里多少真 |
| 召回率 R | TP/(TP+FN) | 真为正里找回多少 |
| F1 | \(2PR/(P+R)\) | P 与 R 的调和均值 |
| AUC | ROC 曲线下面积 | 排序能力 |
- 承 Ch04: 二类错误 (FP/FN) = Ch04 §04 假设检验。
- 数字例: 预测 100 正, 实际 80 真正 20 假正 ⇒ P = 80/100 = 0.8; 实际共 120 正, 漏 40 ⇒ R = 80/120 ≈ 0.667; F1 ≈ 0.727。
- 典型题型: 算 P/R/F1; 选指标 (类不平衡时优先 PR-AUC)。
🟡考点 32 · 交叉验证 — 难度 🟢 L1¶
- k 折 CV: 数据分 \(k\) 份, 轮流 \(k-1\) 训练 + \(1\) 验证, 报告 \(k\) 次均值。
- 数字例: 5 折 CV, 1000 样本 ⇒ 每折 200 验证, 5 次结果均值。
- 典型题型: 算 CV 流程; 选 k; 时间序列用前向链式 CV (非随机 k 折)。
🟡考点 33 · 优化器学习率调度 — 难度 🟡 L3¶
- Step Decay: 每 N epoch 乘 0.1。
- Exponential: \(\eta_t = \eta_0 \gamma^t\) (此 γ 与 RL/BN γ 同字符, 必标 "γ (学习率衰减)")。
- Cosine Annealing: \(\eta_t = \eta_{\min} + \frac{1}{2}(\eta_0 - \eta_{\min})(1+\cos(\pi t/T))\)。
- Warmup: 前若干步线性增加, 避免初期大梯度崩。
- 典型题型: 算调度曲线; 解释 warmup 必要性。
🟡考点 34 · 残差连接与梯度流 — 难度 🟡 L3¶
ResNet 块: \(y = F(x, \{W_i\}) + x\), \(F\) = 残差。 - 数字例: 100 层普通 CNN 训练误差 > 20 层; ResNet 100 层训练误差单调下降。 - 承 Ch03 链式法则: 残差让梯度有"短路", 缓解梯度消失。 - 典型题型: 写残差块; 解释为什么缓解梯度消失。
🟡考点 35 · 过拟合与早停 — 难度 🟢 L1¶
- 早停: 验证误差连续 \(k\) 步不降, 停止训练, 取历史最佳。
- 数字例: 训练 100 epoch, 第 30 epoch 验证损失最低, 之后持续上升 ⇒ 早停在 epoch 30。
- 典型题型: 画学习曲线判过拟合; 选早停 patience。
🟡考点 36 · 词嵌入 word2vec/GloVe — 难度 🟡 L3 ⭐¶
- word2vec: skip-gram (中心→上下文) 或 CBOW (上下文→中心); 负采样加速。
- GloVe: 利用全局共现矩阵, 目标 \(J = \sum (w_i^\top w_j + b_i + b_j - \log X_{ij})^2\)。
- 数字例: "king" - "man" + "woman" ≈ "queen" (经典类比)。
- 承 Ch05: softmax over 词表 = 类别分布。
- 典型题型: 写 skip-gram 目标; 解释负采样; 解释类比性质。
🟡考点 37 · PPO 截断目标 — 难度 🔴 L5 ⭐¶
目标: $\(L^{\text{CLIP}}(\theta) = E_t[\min(r_t(\theta) A_t, \text{clip}(r_t(\theta), 1-\epsilon, 1+\epsilon) A_t)]\)$
- \(r_t(\theta) = \pi_\theta(a_t\|s_t) / \pi_{\theta_{\text{old}}}(a_t\|s_t)\) 概率比
- ε (PPO 截断, 必标 "ε (PPO)"): 常用 0.1 或 0.2。
- 承 Ch06 §25: PPO = on-policy 策略梯度 + 截断防更新过大。
- 典型题型: 解释截断动机; 比较 PPO vs TRPO。
🟡考点 38 · Actor-Critic 框架 — 难度 🔴 L4 ⭐¶
- Actor: 策略网络 \(\pi_\theta(a\|s)\), 更新方向 \(\nabla \log \pi \cdot A(s,a)\)。
- Critic: 价值网络 \(V_\phi(s)\), 拟合 TD 误差 \(\delta = r + \gamma V(s') - V(s)\)。
- 数字例: A2C/A3C 并行多环境; DDPG 用于连续动作。
- 典型题型: 画 A-C 流程; 比较 on-policy vs off-policy。
🟡考点 39 · DQN 与经验回放 — 难度 🔴 L4 ⭐¶
核心技巧: - 经验回放: 存 \((s,a,r,s')\) 到 buffer, 随机采样打破时间相关。 - 目标网络: Q 网络与目标 Q 网络分离, 定期同步, 稳定训练。 - 数字例: Replay buffer 10 万, mini-batch 32, 每 1000 步同步 target。 - 承 Ch05 LLN: 经验回放 ≈ 独立同分布采样, 满足 SGD 收敛条件。 - 典型题型: 解释经验回放; 写 DQN 损失; 解释目标网络作用。
🟡考点 40 · ε-greedy 探索 — 难度 🟢 L2¶
- 以概率 ε 随机选动作 (探索), 否则选 \(\arg\max_a Q(s,a)\) (利用)。
- ε (RL 探索, 必标 "ε (ε-greedy)"): 常用 0.1, 也可衰减 (ε-decay)。
- 承 Ch05: 探索-利用 ↔ Ch05 大数定律, 探索多了方差大, 利用多了偏差风险。
- 数字例: ε=0.1, 10 步平均 1 步探索。
- 典型题型: 算 ε-greedy 选动作频率; 比较 Boltzmann/UCB。
三、对比记忆表 (高频 L3-L4 必背)¶
表 A · L1 vs L2 vs Dropout 正则化¶
| 维度 | L1 正则 | L2 正则 (Ridge) | Dropout |
|---|---|---|---|
| 公式 | \(+\lambda\|w\|_1\) | \(+\lambda\|w\|_2^2\) | 训练时 \(p\) 概率置零 |
| 解的稀疏性 | 强 (很多 \(w_i=0\)) | 弱 (全部小) | 训练时稀疏, 测试不稀疏 |
| 特征选择 | 等价 | 不等价 | 不等价 |
| 微分性 | 次梯度 | 可微 | 不可微 (随机) |
| 训练 vs 测试 | 相同 | 相同 | 训练置零, 测试全用 + 反向缩放 |
| 适用 | 稀疏模型 (特征多) | 通用 (Ridge) | 神经网络标配 |
| ⛔ 用词 | "L1 正则诱导稀疏" | "L2 防过拟合" | "Dropout 模拟集成" |
表 B · 偏差 vs 方差 vs 噪声¶
| 维度 | 偏差 Bias | 方差 Var | 噪声 σ² |
|---|---|---|---|
| 来源 | 模型假设错 (欠拟合) | 训练集敏感性 (过拟合) | 数据本身不可约 |
| 减小方法 | 加复杂度/换模型 | 加数据/正则/集成 | 没法减 (Ch04 残差) |
| 学习曲线表现 | 训练误差高, 验证高 | 训练误差低, 验证高 | 验证误差有下界 |
| 判定 | 两者都高 ⇒ 欠拟合 | 训练低验证高 ⇒ 过拟合 | 训练低验证高且差 > 0 ⇒ 含噪 |
表 C · 精确率 vs 召回率 vs F1¶
| 维度 | 精确率 P | 召回率 R | F1 |
|---|---|---|---|
| 公式 | TP/(TP+FP) | TP/(TP+FN) | \(2PR/(P+R)\) |
| 关注 | 预测为正里多少真 | 真为正里找回多少 | 平衡二者 |
| 优先场景 | 误报代价高 (垃圾邮件) | 漏报代价高 (癌症) | 通用 |
| 类不平衡 | 不稳 | 较稳 | 较稳 |
| ⛔ 不要用准确率 | 类不平衡时准确率失真 (99% 负样本全预测负就 99%) |
表 D · 监督学习 vs 强化学习¶
| 维度 | 监督学习 | 强化学习 |
|---|---|---|
| 反馈 | 立即标签 \(y\) | 延迟累积奖励 \(R\) |
| 数据 | i.i.d. (Ch05 LLN) | 时间相关轨迹 |
| 探索 | 不需要 (数据给定) | 必须 (ε-greedy / 策略熵) |
| 目标 | 最小化损失 | 最大化 \(\sum \gamma^t r_t\) |
| 评估 | 准确率/损失 | 累计奖励 + 稳定性 |
| 例子 | 分类/回归 | 游戏/机器人/对话 |
表 E · 数据并行 vs 模型并行 vs 流水线并行¶
| 维度 | 数据并行 | 模型并行 (张量) | 流水线并行 |
|---|---|---|---|
| 切分 | 样本 | 单层参数 | 整层分多段 |
| 通信 | 梯度 AllReduce | 跨分片激活 | 跨段激活 |
| 适用 | 模型 < GPU 内存 | 单层 > GPU 内存 | 总模型 > GPU 内存 |
| 气泡 | 无 | 极少 | 有 (流水线 bubble) |
| 代表 | DDP | Megatron | PipeDream |
表 F · 生成式 vs 判别式 (二分类子分)¶
| 维度 | 生成式 | 判别式 |
|---|---|---|
| 学什么 | \(P(x,y)\) 或 \(P(x\|y)\) | \(P(y\|x)\) |
| 能采样 | 能 (新样本) | 不能 |
| 数据效率 | 弱 (要学全分布) | 强 (只需决策边界) |
| 代表 | 朴素贝叶斯/VAE/GAN | 逻辑回归/SVM/神经网络 |
| 准确率 | 数据少时常胜 | 数据多时常胜 |
表 G · 激活函数四件套¶
| 函数 | 公式 | 范围 | 零中心 | 梯度饱和 | 默认模型 |
|---|---|---|---|---|---|
| ReLU | \(\max(0,x)\) | \([0,\infty)\) | 否 | 负半死 | CNN/MLP |
| Sigmoid | \(1/(1+e^{-x})\) | \((0,1)\) | 否 | 两端 | 输出层 (二分类) |
| Tanh | \((e^x-e^{-x})/(e^x+e^{-x})\) | \((-1,1)\) | 是 | 两端 | RNN |
| GELU | \(x \cdot \Phi(x)\) | \(\mathbb{R}\) | 近是 | 弱 | Transformer (GPT/BERT) |
四、易错点合集 (25 条, 含如何避坑)¶
| # | 易错陈述 | 错在哪 / 如何避坑 |
|---|---|---|
| 1 | "Sigmoid 输出 = 概率" | 仅在模型校准时成立; 未校准的 Sigmoid 输出是 ranking score。避坑: 校准用 Platt scaling / 温度缩放。 |
| 2 | "BCE 越小越好, 越接近 0 越好" | \(\hat y = 0\) 或 \(1\) 会导致 \(\log 0\) 数值爆炸。避坑: 加 \(\epsilon\) 截断 (如 \(\log(\hat y + 10^{-7})\))。 |
| 3 | "L1 范数稀疏友好" | 范数本身不稀疏, 是优化中作为正则项才诱导稀疏。避坑: 用 "L1 正则诱导稀疏" 表述。 |
| 4 | "梯度下降能找到全局最优" | 仅凸函数保证; 神经网络 loss 非凸, 可能卡局部/鞍点。避坑: 多随机初始化 + 学习率调度。 |
| 5 | "Xavier 初始化适合 ReLU" | ReLU 死一半神经元, 需用 He 初始化 (方差加倍)。避坑: ReLU → He, Tanh/Sigmoid → Xavier。 |
| 6 | "Attention 公式里的 \(\sqrt{d_k}\) 可省" | 不除会 softmax 近 one-hot, 梯度消失。避坑: 写公式时必带 \(\sqrt{d_k}\), 阅卷扣分点。 |
| 7 | "训练误差小 = 好模型" | 可能过拟合。避坑: 看验证误差; 用 k 折 CV。 |
| 8 | "BatchNorm 训练/推理一样" | 训练用批统计, 推理用 EMA 累计。避坑: 模型设 .train() / .eval() 切换。 |
| 9 | "Dropout 让网络更稀疏" | 测试时全部激活; 稀疏性是 ReLU 的。避坑: Dropout 描述为"训练时随机化 + 反向缩放"。 |
| 10 | "SGD 比 GD 慢" | 单步 SGD 快, 总迭代少; 实战 SGD 总快几个数量级。避坑: 大数据集必用 mini-batch SGD。 |
| 11 | "Adam 不需要偏差修正" | \(m_0=v_0=0\) 时前几步低估, 必须 \(\hat m_t = m_t/(1-\beta_1^t)\)。避坑: 写 Adam 必带偏差修正项。 |
| 12 | "SVM 核函数 = 神经网络核" | 同词异义! SVM 核 = \(K(x,x') = \phi(x) \cdot \phi(x')\); DL 核 = 卷积核 / 注意力头。避坑: 首次出现必标。 |
| 13 | "LSTM 解决所有 RNN 问题" | LSTM 缓解梯度消失, 不解决梯度爆炸; 仍需梯度裁剪。避坑: 长序列加梯度裁剪 + LayerNorm。 |
| 14 | "PPO 是 on-policy" | PPO 用 \(\pi_{\theta_{\text{old}}}\) 采的数据, 但允许多步更新 (off-policy 折中)。避坑: 严格说 PPO 是 on-policy with off-policy 容忍。 |
| 15 | "数据并行无通信开销" | AllReduce 仍是瓶颈, \(N\) GPU 同步等最慢卡。避坑: 算通信量, 选压缩/异步/分层。 |
| 16 | "MDP γ (折扣因子) 越大越激进" | γ→1 重视长远 (保守稳), γ→0 重视眼前 (短视)。避坑: γ=0.9 是平衡, γ=0.99 极保守。 |
| 17 | "Q-Learning 收敛到最优" | 表格 + 充分探索 + 学习率满足 Robbins-Monro 才收敛; 函数逼近时不保证。避坑: Deep Q-Learning 用目标网络 + 经验回放。 |
| 18 | "L2 正则等价于高斯先验" | 仅在贝叶斯框架 + 特定先验下等价。避坑: 写"L2 假设权重小" 比"L2 = 高斯先验" 安全。 |
| 19 | "PCA = 选最大特征值特征向量" | 是的但只对协方差矩阵; 实际常用 SVD 数值更稳。避坑: sklearn PCA 默认 SVD。 |
| 20 | "交叉熵 = KL 散度" | CCE = \(H(y) + D_{KL}(y\|\hat y)\), 仅当 \(H(y)\) 固定时最小化 CCE ≡ 最小化 KL。避坑: 区分 H 与 D_KL 单位 (都需标 bit/nat)。 |
| 21 | "ReLU 死神经元可复活" | 学习率大时长期死的 ReLU 难复活, 因梯度恒为 0。避坑: 用 Leaky ReLU / 学习率 warmup。 |
| 22 | "反向传播 = 显式构造完整 Jacobian" | 错误! 反向传播是 reverse-mode autodiff (VJP), 不是构造 Jacobian (见 WRITING_TEMPLATE §1.5)。避坑: 写 VJP, 不要说 "build full Jacobian"。 |
| 23 | "Transformer 推理 \(O(n)\)" | 自注意力 \(O(n^2)\) (QKᵀ 矩阵), 这是 LLM 长上下文瓶颈。避坑: 算 FLOPs 必带 \(n^2\)。 |
| 24 | "策略梯度无偏" | 蒙特卡洛估计无偏但高方差, 加 baseline 后仍是策略梯度。避坑: 解释 PG 高方差, baseline 减方差不改期望。 |
| 25 | "Ch06 ε 与 Ch03 ε-δ 同义" | 完全不同! Ch03 ε-δ = 极限定义; Ch06 §40 ε-greedy = 探索率; Ch21 ε-δ = 隐私预算。避坑: 必标 "ε (Ch06 §40 ε-greedy)" 等。 |
五、复习路径 (3 / 7 / 14 天)¶
3 天速成 (考前冲刺, 抓核心 25 考点)¶
- Day 1 (主线): §02 闭式解 + §03 BCE + §07 GD + §08 反向传播 + §09 优化器 + §11 偏差方差
- Day 2 (主线): §13 激活 + §14 初始化 + §15 BN/LN + §19 注意力 + §23 MDP
- Day 3 (主线): §24 Q-Learning + §25 REINFORCE + §22 AllReduce + 刷闪卡前 30 张
7 天均衡 (期末前 1 周)¶
- Day 1: §01-03 监督/回归/逻辑 (闪卡前 10 张)
- Day 2: §04-06 多分类/朴素贝叶斯/决策树 (闪卡 11-20)
- Day 3: §07-09 优化器三件套 (闪卡 21-30)
- Day 4: §10-12 正则/偏差方差/MLP (闪卡 31-40)
- Day 5: §13-19 深度学习主干 (CNN/RNN/Attention)
- Day 6: §21-22 分布式 + §23-25 RL
- Day 7: 阶段测试题 25 题全做 + 易错点表过一遍
14 天扎实 (考研/系统学习)¶
- Day 1-2: §01-03 + 闪卡 1-10 + 信息图公式 1-5
- Day 3-4: §04-06 + 闪卡 11-20 + 信息图公式 6-10
- Day 5-6: §07-09 优化器 + 闪卡 21-30
- Day 7-8: §10-12 正则 + 闪卡 31-40
- Day 9-10: §13-17 深度学习主干 + 闪卡 41-50
- Day 11-12: §18-20 RNN/Transformer
- Day 13: §21-22 分布式 + 阶段测试题 1-13
- Day 14: §23-25 RL + 阶段测试题 14-25 + 总复盘
六、自测清单 (10 问, L1-L5)¶
答不出来的考点回 §二 对应小节, 或交叉看
../讲解稿/第06章/01-05.md+../闪卡/第06章_*.md+../阶段测试题/第06章.md+../信息图/第06章_*.md
- [ ] L1: MSE 损失公式怎么写? BCE 公式怎么写? L1/L2 正则化公式怎么写?
- [ ] L2: 给 3 个数据点, 用闭式解算线性回归的 \(w\) 和 MSE, 写出计算过程。
- [ ] L2: Sigmoid 函数 \(\sigma(z) = 1/(1+e^{-z})\) 的导数是什么? 写出来。
- [ ] L3: 解释 Adam 优化器里 \(m_t, v_t, \hat m_t, \hat v_t\) 各自作用; 为什么需要偏差修正?
- [ ] L3: 决策树用 Gini 还是熵? 二分类完全均衡节点的 Gini 和熵分别是多少? 写出 IG 公式。
- [ ] L3: 偏差-方差分解公式写出来, 哪一项是欠拟合, 哪一项是过拟合?
- [ ] L4: Attention 公式写出来, \(\sqrt{d_k}\) 在分母的物理意义是什么? 不除会怎样?
- [ ] L4: BatchNorm 和 LayerNorm 各自沿哪个维度归一化? Transformer 选哪个? 为什么?
- [ ] L4: 写 Bellman 方程与 Q-Learning 更新公式; γ (折扣因子) 必标, 解释 γ → 0 和 γ → 1 的含义。
- [ ] L5 (错): 下列哪条是错的, 错在哪? (a) ReLU 在负半轴梯度恒为 0; (b) L1 范数本身使解稀疏; (c) Sigmoid 输出 = 概率; (d) Dropout 测试时仍随机置零。
第 10 题答案 (L5 反例): (b) 错 — L1 范数本身不稀疏, 是优化中作为正则项时才使解稀疏 (避坑见 §四 第 3 条)。(c) 也错 — Sigmoid 输出仅在模型校准时等于真实概率, 否则仅是 ranking score。其余 (a) (d) 看似对但易踩坑: (a) ReLU 死神经元问题; (d) Dropout 测试时全部激活 + 反向缩放补偿, 不置零。避坑: 严格读 §四 易错点表对应条目。
本章结束钩子: Ch06 把 Ch05 概率/信息论工具应用到 ML 算法; Ch07 计算语言学将进入 NLP 领域, 用 Ch06 的神经网络 (尤其 Transformer) 处理文本 — 注意力、词嵌入、序列建模全部会复用。