第 04 章 · 统计学 —— 知识图谱 (Knowledge Mindmap)¶

一句话总结: 统计学 = 用样本对总体下结论的数学, 三层结构 — 描述 (描述性度量) · 推断 (抽样/CLT) · 决策 (假设检验/CI/Bayes), 整套语言建立在 Kolmogorov 三公理之上 (Ch05 概率论将进入测度论和分布族)。

承接 Ch03: CLT 内部用 Taylor 展开做正态近似 (Ch03 §04); Fisher 信息矩阵 = Hessian 统计学对应 (Ch03 §05); MLE 数值法用 Newton/GD (Ch03 §05 优化)。

难度色标: 🟢 入门 L1-L2 · 🟡 进阶 L3-L4 · 🔴 高阶 L5-L6 · ⭐ 主干外可跳过

Mermaid Mindmap (313 节点, 主干 + ⭐ 进阶)¶

🌳 Ch4 章 知识图谱
├─ 01 基础 🟢
│  └─ 概率公理三件套 🟢
│  │  └─ K1 非负性 P A >=0 🟢
│  │  │  └─ 大白话 概率像长度不能负 🟢
│  │  │  └─ 反例 P A = -0.3 不合法 🟢
│  │  └─ K2 规范化 P Ω = 1 🟢
│  │  │  └─ 大白话 整个空间概率为 1 🟢
│  │  │  └─ 反例 PMF 和 = 0.8 不合法 🟢
│  │  └─ K3 可列可加 互斥可加无限也行 🟢
│  │  │  └─ 大白话 互不相交事件可加 🟢
│  │  │  └─ 反例 P AuB 不等于各加 🟢
│  │  └─ 派生定理 🟢
│  │  │  └─ 单点 ≤1 🟢
│  │  │  └─ 补集公式 🟢
│  │  │  └─ 互斥可加 n=2 🟢
│  │  │  └─ 容斥 n=2 🟢
│  │  │  └─ P 空 =0 🟢
│  └─ 随机变量 🟢
│  │  └─ 离散 PMF 🟢
│  │  │  └─ Σ p x = 1 🟢
│  │  │  └─ 二项分布 Poission 几何 🟢
│  │  └─ 连续 PDF 🟢
│  │  │  └─ ∫ f x dx =1 🟢
│  │  │  └─ 正态指数均匀 🟢
│  │  └─ F(x)=P X≤x 通用 🟢
│  └─ 期望方差 🟢
│  │  └─ E X = Σx·p x 离散 🟢
│  │  └─ E X = ∫ x·f x dx 连续 🟢
│  │  └─ Var X = E X^2 - E X ^2 🟢
│  │  └─ 期望线性 不需独立 🟢
│  │  └─ 方差线性 仅独立 🟢
│  │  └─ Cauchy 无均值无方差 🟡
│  └─ 常用分布族 🟡
│  │  └─ Bernoulli p 🟢
│  │  └─ Binomial np 🟢
│  │  └─ Poisson λ 🟡
│  │  └─ Exponential λ 🟡
│  │  └─ Normal μ σ 🟢
│  │  └─ CLT 极限角色 🟡
├─ 02 描述性度量 🟢
│  └─ 中位数 50% 分位数 🟢
│  └─ 分位数 xp F^-1 p 🟢
│  └─ 偏度 E X-μ^3 σ^3 🟡
│  │  └─ 正偏 右尾长 🟡
│  │  └─ 负偏 左尾长 🟡
│  └─ 峰度 E X-μ^4 σ^4 🟡
│  │  └─ 正态 = 3 🟡
│  │  └─ 超额峰度 -3 正态=0 🟡
│  └─ 五数概括 min Q1 中 Q3 max 🟢
│  └─ 箱线图 outlier 检测 🟡
├─ 03 抽样 🟡
│  └─ 总体分布 vs 抽样分布 区分 🟡
│  │  └─ 总体 X 的分布 🟡
│  │  └─ 抽样 X̄ 的分布 🟡
│  │  └─ 反例陷阱 不区分 🟡
│  └─ 样本均值 X̄ 🟡
│  │  └─ E X̄ = μ 🟡
│  │  └─ Var X̄ = σ^2/n 🟡
│  │  └─ 缩小 n 倍 🟡
│  └─ 样本方差 S^2 🟡
│  │  └─ 无偏估计 S^2 n-1 分母 🟡
│  └─ 抽样分布族 🟡
│  │  └─ X̄ 趋正态 CLT 🟡
│  │  └─ Chi 方 卡方检验 🟡
│  │  └─ t 分布 小样本 🟡
│  │  └─ F 分布 方差比 🟡
│  └─ CLT 中心极限定理 🟡
│  │  └─ 依分布收敛 →d N μ σ^2/n 🟡
│  │  └─ n ≥30 经验值 🟡
│  │  └─ 与原分布无关 🟡
│  └─ LLN 大数定律 🟡
│  │  └─ X̄ → μ 几乎必然 a.s. 🟡
│  │  └─ 与 CLT 不同 🟡
│  └─ Bootstrap 重采样 ⭐
│  │  └─ 有放回 抽 B 次 🟡
│  │  └─ 经验分布代替理论分布 🟡
│  │  └─ 任意统计量 CI 🟡
├─ 04 假设检验 🟡
│  └─ p 值精确定义 🟡
│  │  └─ P T≥tobs | H0 单侧 🟡
│  │  └─ 2 min 双侧 🟡
│  │  └─ 5 大误解 🟡
│  │  │  └─ 不是 H0 概率 🟡
│  │  │  └─ 不是 H0 错证明 🟡
│  │  │  └─ 不是 H0 对证明 🟡
│  │  │  └─ 不是单=双 🟡
│  │  │  └─ 不是显著性本身 🟡
│  └─ 第一类错误 α 🟡
│  └─ 第二类错误 β 🟡
│  └─ 检验功效 1-β 🟡
│  └─ α-β 张力 固定样本下此消彼长 🟡
│  └─ t 检验 🟡
│  │  └─ 单样本 X̄-μ0 S/√n 🟡
│  │  └─ 配对 D=X-Y df=n-1 🟡
│  │  └─ 两独立 方差齐 Welch 🟡
│  └─ z 检验 σ 已知 🟡
│  └─ χ² 检验 类别数据 🟡
│  └─ Bonferroni 多重修正 α/m 🟡
│  └─ p-hacking 警示 🟡
│  └─ A/B 测试 ⭐
│  │  └─ 两比例 Z 检验 🟡
│  │  └─ 双侧 α=0.05 🟡
│  │  └─ 详见 Ch25 面试 🟡
├─ 05 统计推断 🔴
│  └─ 95% 置信区间 🟡
│  │  └─ X̄ ± zα/2 σ/√n z 分布 🟡
│  │  └─ X̄ ± t n-1 S/√n t 分布 🟡
│  │  └─ 频率派解读 重复抽样覆盖 🟡
│  │  └─ 不是 μ 概率在区间 🟡
│  └─ 预测区间 PI ≠ CI 🟡
│  │  └─ X̄ ± t S √(1+1/n) 更宽 🟡
│  │  └─ 新观测 Xnew 🟡
│  └─ Bayes 公式 🟡
│  │  └─ P A|B = P B|A P A / P B 🟡
│  │  └─ 假阳性 16.1% 反直觉 🟡
│  │  └─ 多事件 Bayes 🟡
│  └─ MLE 极大似然估计 🔴
│  │  └─ L θ = Π p xi|θ 🔴
│  │  └─ ℓ θ = log L θ 🔴
│  │  └─ ∂ℓ/∂θ = 0 解 🔴
│  │  └─ 数字例 Bernoulli p̂=k/n 🔴
│  │  └─ 数值法 Newton/GD 承 Ch03 🟡
│  └─ Cramér-Rao 下界 ⭐
│  │  └─ Var θ̂ ≥ 1/I θ 🔴
│  │  └─ MLE 渐近达到 🔴
│  └─ Fisher 信息矩阵 ⭐
│  │  └─ I θ = -E ∂²ℓ/∂θ² 🔴
│  │  └─ Ch03 Hessian 对应 🔴
│  │  └─ 自然梯度 = I^-1 ∇L 🟡
│  └─ UMVUE Rao-Blackwell ⭐ 🔴
│  │  └─ 充分统计量 T X ⭐ 🔴
│  │  └─ 条件期望方差递减 🔴
│  └─ Bayesian 信用区间 ⭐ 🔴
│  │  └─ 后验 p θ|D 分位数 🔴
│  │  └─ θ 概率在区间 频率派不说 🔴
│  │  └─ 数字例 Beta 后验 🔴

学习路径建议¶

主干路径 (7 天)¶

Day 1-2 §01 基础: 三公理 + 期望方差 + 5 分布族
Day 3-4 §02 描述性度量 + §03 抽样 + CLT
Day 5 §04 假设检验: p 值 + α/β + t 检验
Day 6 §05 统计推断: CI + Bayes + MLE
Day 7 §五错误识别 6 题 + 自测 10 题

⭐ 进阶路径¶

⭐ Bootstrap (Ch04 §20) — 工程实用
⭐ Fisher 信息 + 自然梯度 (Ch04 §23 → Ch06)
⭐ Bayesian 信用区间 (Ch04 §25 → Ch05)

依赖关系¶

§01 基础 → §02 描述性度量 (期望/方差是基础)
§01 基础 → §03 抽样 (抽样分布用概率论)
§03 抽样 → §04 假设检验 (CLT 给正态基础)
§03 抽样 → §05 统计推断 (Bayes 用先验)
§04 假设检验 ↔ §05 统计推断 (CI 是检验的对偶)

承上: - Ch01 §05 (向量与对偶) → Ch04 §05 (Fisher 信息作为对偶矩阵) - Ch03 §04 (Taylor 展开) → Ch04 §03 (CLT 用 Taylor 近似) - Ch03 §05 (优化/GD/Newton) → Ch04 §05 (MLE 数值法)

启下: - Ch04 §04 → Ch25 面试 (A/B 测试) - Ch04 §03 → Ch06 ML (mini-batch SGD) - Ch04 §05 Fisher 信息 → Ch06 自然梯度 - Ch04 §05 Bayes → Ch05 概率论 (Kolmogorov 公理深度)

常见误区提醒 (精选 10 条)¶

p 值 = \(H_0\) 概率 — p 是数据指标, 不是参数概率
CI = μ 概率在区间 — 频率派说"重复抽样覆盖", 不说参数概率
抽样分布 = 总体分布 — 二者不同 (Ch04 唯一致命错)
双侧 p = 单侧 p — 双侧 \(p=2\times\) 单侧
CLT 是 LLN — LLN 说均值收敛, CLT 说分布趋正态
方差线性无需独立 — 漏协方差项
配对 t 当独立两样本 — 配对减少独立性
α 与 β 都设 0.05 — 固定样本下此消彼长
Poisson λ 与 Ch03 乘子 λ 混 — 同符号不同语境
α 与 Ch03 正则系数混 — Ch04 显著性 ≠ Ch03 学习率

节点统计: 5 主干节 + ⭐ 进阶节, ~313 节点, K1/K2/K3 三件套 + 派生定理明确分层, p 值/α/β/CI/PI/Bayes 全覆盖 承接 Ch03: §04 Taylor (CLT), §05 优化 (MLE 数值法), §05 Hessian (Fisher 信息), 颜色色标统一 承接 Ch05: 概率论 Kolmogorov 公理深度版, 分布函数族 (Bernoulli/Binomial/Poisson/Exp/Normal) 将在 Ch05 详细推导