跳转至

讲解稿 · 第04章 第01节 · 统计学基础

口播时长:约 18 分钟|建议语速:中速,公式处停两拍|字数:约 4000 字


开场钩子(约 80 秒)

先请你做一件事。

打开你手机里的电商 App,搜一件你最近想买的东西,比如某款蓝牙耳机。你会看到一排商品——每款底下都标着月销"5 万+""10 万+""20 万+"。App 不会把每款耳机的所有买家的真实评价都摊给你看,它只会用几个数字给你一个"大致感觉":销量、好评率、复购率。这些数字背后,都是一个东西在撑——统计。

更具体一点:假设你是一家工厂的质检员。流水线上每秒吐一个零件,你要判断"今天的次品率是不是比平时高"。你没法测全部零件——一秒钟一个,一天就是 8 万 6400 个。你只能抽个样本:比如每隔 100 秒抽一个,测它合不合格,抽 100 个下来。数一数几个次品,然后用这一百个数,去推断整条产线次品率大概是多少。

这就是推断性统计——用样本对总体下结论。你说"今天产线次品率 4%",这 4% 不是数出来的,是算出来的。算法分两步走:先算样本次品率 \(\hat p = 0.04\),再算"它距离历史均值 \(\mu_0 = 0.02\) 有多远"。今天我们要讲的整套语言——分布、随机变量、PMF/PDF、期望、方差、矩——都是这两步的砖头。

扶稳了,我们开始。


复习昨日 & 今日路线(约 40 秒)

上一章我们把微积分啃完了。从极限到导数到积分,你掌握了"瞬时变化率"和"累积量"两件工具。今天起我们翻进统计学——它和微积分不一样的地方是:微积分处理确定函数,统计学处理随机变量。今天这一节是统计学的"语言入门":把那些你日常刷到的"平均分""方差""偏度"全部归到一套统一的数学框架里。

下一节 §02 是描述性度量——用本节这套语言去算均值、中位数、分位数;再下一节 §03 是抽样分布与中心极限定理——本节学的期望、方差在那里要发挥决定性作用。


核心概念一 · 为什么要先讲"分布"(约 2.5 分钟)

先给直觉。

你手里有一份数据,比如一个班 50 个学生的考试成绩。你想"搞清楚这堆数长啥样"——是大家都考 80 分挤成一坨,还是有人 100 有人 30 撒成一片?描述这堆数"长啥样"的对象,就叫分布 (distribution)。

分布有两种常见形态:

频率分布 (frequency distribution)——经验的,原始的。把数据按分数段装桶,"70-80 分这一桶有 12 个人",画出来就是一张直方图。

概率分布 (probability distribution)——理论的,模型的。把频次换成概率,"考 70-80 分的概率是 0.24"。当数据是连续的,柱子就连成了一条光滑曲线。

直方图是经验——你看到的现实。概率曲线是理论——背后的数学模型。一个从数据里搭出来,一个从公式里推出来。两者关系就像观测和理论:你拿望远镜看星空(频率分布),是为了验证广义相对论(概率分布)——这就是为什么今天所有的科学实验,最后都绕回到一个概率分布上。

这里有个学生常踩的坑——"分布"在不同语境下含义不一样。严格定义下,概率分布是一个函数 \(p(x)\) 或 \(f(x)\),描述"随机变量取某个值(或落在某区间)的概率有多大"。但日常口语里,"这堆数据的分布"指的是这堆数据本身的形态——是 0-100 区间里的一段。下次你看到"分布"两个字,先问一句:是理论模型还是经验数据?这是今天第一个要锁死的概念。


核心概念二 · 随机变量——把"事"变成"数"(约 2 分钟)

光有"概率"还不够,你得有办法给每个实验结果分配一个数字,才能做算术。

随机变量 (random variable) \(X\) 是一个函数,把实验的每个结果映射到一个实数。抛硬币:结果可以是"正面""反面",但 \(X\) 把它们翻译成 \(X(\text{heads}) = 1\) 和 \(X(\text{tails}) = 0\)。现在能做加减乘除了。

随机变量分两类:

  • 离散 (discrete):取一组可数的值。抛 10 次硬币里正面的次数、骰子的点数、一小时内收到的邮件数。
  • 连续 (continuous):取一个区间里的任何值。你的精确身高、下一辆公交到站前的等待时间。

符号首现(四件套走一遍):

\(X\) — 随机变量 (random variable):把实验结果映射到实数的函数。例子:$X = $ "抛两次公平硬币,正面次数",取值 \(\{0, 1, 2\}\)。

为什么必须区分离散和连续?因为它们算概率的工具不一样。离散用求和,连续用积分——而积分是上一章才学完的武器。区别我们马上讲。


核心概念三 · PMF 与 PDF——给每个结果分配概率(约 3 分钟)

离散和连续两种随机变量,各有一套分配概率的函数。

🟢 离散 · 概率质量函数 PMF

概率质量函数 (Probability Mass Function, PMF) 给出每一个具体取值的概率:

\[P(X = x) = p(x), \quad \text{其中 } \sum_x p(x) = 1\]

"质量"这个词提示你:概率被"分摊"到各个点上,每个点分到一份(质量)。注意全部加起来必须等于 1——这是 §03 我们会讲的概率公理之一。

数字例子:一枚公平的六面骰子,\(p(1) = p(2) = \dots = p(6) = 1/6\)。\(\sum p(x) = 6 \times (1/6) = 1\) ✓。

🟢 连续 · 概率密度函数 PDF

概率密度函数 (Probability Density Function, PDF) 给出落在某个区间内的概率:

\[P(a \le X \le b) = \int_a^b f(x)\, dx, \quad \text{其中 } \int_{-\infty}^{\infty} f(x)\, dx = 1\]

注意一个反直觉的事实:连续随机变量在任何一个具体点的概率都是 0。\(P(X = 3.1415926\dots) = 0\)。不是"很小",是严格等于 0。原因:单点的区间长度是 0,积分是 0。只有区间才有正的概率——\(P(3 \le X \le 4)\) 这种问法才有意义。

⚠️ 这里有个学生反复掉进的坑:把 PDF 的值当概率。\(f(x)\) 是密度,不是概率。密度可以大于 1,比如某段区间密度是 2、宽度是 0.3,那概率是 \(2 \times 0.3 = 0.6\),不是 2。\(f(x)\) 的量纲是"概率 / 自变量",而不是"概率"。

第二件常踩的坑:PMF 和 PDF 的写法都是 \(f(x)\) 或 \(p(x)\),离散连续不分字母。区别靠上下文——离散情况下 \(f\) 是概率,连续情况下 \(f\) 是密度。下次看到 \(\int\) 用 PDF,看到 \(\sum\) 用 PMF。


核心概念四 · CDF——累积视角(约 1.5 分钟)

还有一种函数,把 PMF 和 PDF 统一起来,叫累积分布函数 (Cumulative Distribution Function, CDF):

\[F(x) = P(X \le x)\]

CDF 把"≤ x 的概率"画出来,是一条从 0 单调爬升到 1 的曲线(离散时是台阶型,连续时是平滑曲线)。CDF 的好处是离散连续通用——不管 \(X\) 是哪种,CDF 都可以画。

F 是个非常有用的工程工具——比如你想算"高于平均分的人数比例",不是去一个个数,而是看 \(F(\mu)\)(低于均值的人数比例)然后用 \(1 - F(\mu)\)。这个反查 \(F\) 的动作叫分位数 (quantile),是 §02 描述性度量的主角。


核心概念五 · 期望——分布的"重心"(约 2.5 分钟)

现在我们能给结果分配数值了。最自然的问题:平均下来你预期哪个值?

期望 (expectation) \(E[X]\) 是所有可能值的加权平均,权重就是概率。把它想成分布的"重心"。

离散:

\[E[X] = \sum_x x \cdot p(x)\]

连续:

\[E[X] = \int_{-\infty}^{\infty} x \cdot f(x)\, dx\]

数字例子:公平的六面骰子,\(E[X] = (1+2+3+4+5+6)/6 = 21/6 = 3.5\)。你永远掷不出 3.5——但扔一万次,平均就在 3.5 附近。这就是期望的本意:它是长期平均,不是单次结果。

⚠️ 期望 ≠ 平均值 (mean),但在数学上它们是同一个数。区别只在于视角——平均是从已经发生的数据里数出来的,期望是从概率分布里算出来的。当你已经掷了一万次骰子求平均,你是在用样本均值估计那个理论期望。

期望有一个极其好用的性质:

\[E[aX + b] = aE[X] + b\]

叫期望的线性性。注意:线性性不要求 \(X\) 和 \(Y\) 独立,\(E[X + Y] = E[X] + E[Y]\) 对任何两个随机变量都成立。方差没有这个性质——下个概念讲。


核心概念六 · 方差——散得多开(约 2 分钟)

期望告诉我们中心在哪儿,但没说值散得多开。

方差 (variance):

\[\mathrm{Var}(X) = E[(X - E[X])^2]\]

含义:每个值离期望多远,平方后取平均。平方是为了让正偏离和负偏离都不抵消。标准差 \(\sigma = \sqrt{\mathrm{Var}(X)}\),量纲回到原变量,更直观。

数字例子:还是公平骰子 \(X\),\(E[X] = 3.5\)。

\[\mathrm{Var}(X) = \tfrac{1}{6} \sum_{x=1}^{6} (x - 3.5)^2 = \tfrac{1}{6}(6.25 + 2.25 + 0.25 + 0.25 + 2.25 + 6.25) = \tfrac{17.5}{6} \approx 2.92\]

\(\sigma \approx 1.71\)。这把骰子平均散 1.71 远离均值 3.5。

一个重要公式:

\[\mathrm{Var}(X) = E[X^2] - (E[X])^2\]

证明用 \(E[X^2] = E[(X - \mu + \mu)^2] = E[(X - \mu)^2] + 2\mu E[X - \mu] + \mu^2 = \mathrm{Var}(X) + \mu^2\)。考试常考这条。

⚠️ 方差没有线性性。\(\mathrm{Var}(aX + b) = a^2 \mathrm{Var}(X)\),注意 \(a\) 是平方进去的。\(b\) 是常数,加常数不改变方差——整条曲线平移,散开程度不变。如果两变量独立,\(\mathrm{Var}(X + Y) = \mathrm{Var}(X) + \mathrm{Var}(Y)\),独立前提不能丢——一般情况要加协方差 \(2\mathrm{Cov}(X, Y)\)。


核心概念七 · 矩——分布形状的全家福(约 3 分钟)

期望和方差都是矩 (moments) 的特例。第 \(k\) 个原点矩 (raw moment):

\[\mu_k' = E[X^k]\]

从零点开始度量。\(k = 1\) 就是均值 \(\mu_1' = E[X] = \mu\)。

但很多情况下我们更关心相对于均值的偏离,所以定义第 \(k\) 个中心矩 (central moment):

\[\mu_k = E[(X - \mu)^k]\]

把原点挪到均值上。\(k = 1\) 时恒为零(均值上下的偏离互相抵消)。\(k = 2\) 就是方差。

为了比较不同尺度的分布,要把中心矩除以 \(\sigma^k\) 标准化:

\[\tilde\mu_k = \frac{\mu_k}{\sigma^k}\]

这个标准化的中心矩是无量纲的。四个矩刻画分布的四个不同侧面:

阶数 名字 刻画什么 一句话比喻
1 阶(原点) 均值 中心位置 重心
2 阶(中心) 方差 散开程度 摊开宽度
3 阶(中心) 偏度 左右不对称 尾巴偏向
4 阶(中心) 峰度 尾部厚度 极端值多少

正态分布的偏度为 0、峰度为 3。峰度减 3 叫超额峰度 (excess kurtosis),是更常用的版本——这样正态分布的超额峰度就是 0。

下面我们用一个数据集把四个矩挨个算一遍:\(X = \{2, 4, 4, 4, 5, 5, 7, 9\}\)。

第 1 步 · 均值:

\[\mu = \frac{2 + 4 + 4 + 4 + 5 + 5 + 7 + 9}{8} = \frac{40}{8} = 5\]

第 2 步 · 方差(每个值减均值,平方,取平均):

\[\sigma^2 = \frac{(-3)^2 + (-1)^2 + (-1)^2 + (-1)^2 + 0^2 + 0^2 + 2^2 + 4^2}{8} = \frac{32}{8} = 4\]

\(\sigma = \sqrt{4} = 2\)。

第 3 步 · 偏度(把偏离量立方,除以 \(\sigma^3\)):

\[\tilde\mu_3 = \frac{1}{8} \cdot \frac{(-3)^3 + (-1)^3 + (-1)^3 + (-1)^3 + 0^3 + 0^3 + 2^3 + 4^3}{2^3} = \frac{42}{64} = 0.656\]

正偏度意味着右尾更长——数据里有个 9,远远高于均值 5,把尾巴向右拉。

第 4 步 · 峰度(把偏离量升 4 次方,除以 \(\sigma^4\)):

\[\tilde\mu_4 = \frac{1}{8} \cdot \frac{81 + 1 + 1 + 1 + 0 + 0 + 16 + 256}{16} = \frac{356}{128} \approx 2.781\]

峰度 2.781,接近正态分布的 3,超额峰度 \(-0.219\)。说明尾部大致正态,没有特别厚重的离群值。

⏸️ 暂停思考 · 第一次

如果你在数据里额外加一个 100,均值、方差、偏度、峰度会怎么变?哪些对极端值敏感,哪些不敏感?

(提示:均值会跳,方差会暴增,偏度会被拉成更大正数,峰度会爆——因为四次方对极端值的惩罚最重。这就是为什么峰度经常被用作离群值检测器。)


核心概念八 · 中心极限定理——样本均值的归宿(约 2 分钟)

最后讲今天最浪漫的定理——中心极限定理 (Central Limit Theorem, CLT)。

直觉:你从任何分布(掷骰子、均匀分布、甚至是个乱七八糟的分布)里反复抽样,每次抽 \(n\) 个,算它们的样本均值 \(\bar X\)。当你重复很多次,\(\bar X\) 的分布会趋近正态分布——不管原始分布长啥样。

\[\bar X \xrightarrow{\text{分布}} \mathcal{N}\left(\mu,\ \frac{\sigma^2}{n}\right)\]

\(\mu\) 是总体的均值,\(\sigma^2/n\) 是样本均值的方差——它比单次观测的方差小 \(n\) 倍。

这是统计推断的命根子。为什么?因为我们日常能拿到的,几乎都是样本均值——"今天电池平均能用 8 小时""这家店客单价 87 元"。CLT 告诉我们:只要样本量 \(n\) 够大,这些均值就会服从正态分布——而正态分布的数学性质最干净,可以用闭式公式算概率。

下面我们用一个完整数字例把 CLT 落地。原始分布是公平骰子——它的 PMF 是个 \(1/6, 1/6, \dots\) 的均匀分布,不是正态。

每次抽 \(n = 30\) 个骰子点数的样本均值,重复做 \(N = 10{,}000\) 次。CLT 预言:\(\bar X\) 的分布会接近 \(\mathcal{N}(\mu = 3.5,\ \sigma^2/n = 35/12/30 \approx 0.097)\),即 \(\mathcal{N}(3.5,\ 0.097)\)。标准差 \(\sigma/\sqrt{n} = \sqrt{35/12}/\sqrt{30} \approx 1.708 / 5.477 \approx 0.312\)。

模拟 10,000 次得到:

\[\text{实测: } \bar X \text{ 的均值} \approx 3.500,\quad \text{标准差} \approx 0.311\]

跟预言吻合 ✓。

⏸️ 暂停思考 · 第二次

为什么 CLT 在工程里这么重要?想想你做 A/B 测试、测响应时间、估算转化率——你得到的几乎都是样本均值,而不是单次观测。CLT 是这些场景全部能用正态近似的根据。


一个走完全程的例子(约 2.5 分钟)

把所有概念串一遍。我用一家工厂的质检场景。

背景:某工厂历史数据显示,每件产品的次品率 \(p = 0.02\),服从伯努利分布(离散,每件要么合格要么不合格)。现在质检员抽了 \(n = 50\) 件样本,发现有 \(k = 4\) 件次品。问:这次抽样结果正常吗?

Step 1 · 分布。每件产品合格/不合格是一个伯努利随机变量 \(X_i\),\(P(X_i = 1) = 0.02\)(次品),\(P(X_i = 0) = 0.98\)(合格)。\(X_i\) 的 PMF 是 \(p(0) = 0.98,\ p(1) = 0.02\)。\(\sum p(x) = 1\) ✓。

Step 2 · 单个 \(X_i\) 的期望与方差。\(E[X_i] = 1 \cdot 0.02 + 0 \cdot 0.98 = 0.02\)。\(\mathrm{Var}(X_i) = E[X_i^2] - E[X_i]^2 = 0.02 - 0.0004 = 0.0196\),\(\sigma = 0.14\)。

Step 3 · 总次品数 \(K = \sum X_i\)。\(E[K] = 50 \times 0.02 = 1\)。如果各件独立,\(\mathrm{Var}(K) = 50 \times 0.0196 = 0.98\),\(\sigma_K = 0.99\)。

Step 4 · 观测 4 件次品。\(k = 4\),比均值 \(1\) 高出 \(3\) 个标准差(\(z = (4 - 1)/0.99 \approx 3.03\))。按正态近似(CLT,因为 \(n = 50\) 足够大),\(P(K \ge 4) \approx 1 - \Phi(3.03) \approx 0.0012\)。

结论:抽到 4 件次品不太正常——在正常次品率下发生的概率只有 0.12% 左右。这提示产线可能出了问题,值得排查。

这一个例子用到了今天所有概念:分布(伯努利)、随机变量(\(X_i\))、PMF、期望、方差、CLT。下次你们看到任何 A/B 测试、临床试验、SPC 质量控制的报告——背后都是这一套组合拳。


易错点回头看(约 90 秒)

三条最常翻车的地方:

坑一 · 很多人以为"期望就是平均值",其实期望是理论值,平均值是样本估计。期望 \(E[X]\) 从分布算出来,永远等于 3.5(公平骰子);平均值 \(\bar X\) 从样本数出来,每次不一样。两者差别的极致版本叫大数定律——样本均值随 \(n\) 增大收敛到期望。

坑二 · 很多人以为"\(f(x)\) 在某点的值就是该点的概率",这是连续情况下致命的错误。连续随机变量在任何一个具体点的概率严格等于 0。你只能问区间内的概率,要用积分。\(f(x)\) 是密度,量纲是"概率 / \(x\)",不是"概率"。

坑三 · 很多人以为"方差有线性性"。其实方差对常数加法不变(\(\mathrm{Var}(X + b) = \mathrm{Var}(X)\),整条曲线平移散开程度不变),但对常数乘法要平方(\(\mathrm{Var}(aX) = a^2 \mathrm{Var}(X)\))。两个变量相加的方差只有在它们独立时才等于 \(\mathrm{Var}(X) + \mathrm{Var}(Y)\);否则要加上协方差。


与下节的钩子(约 30 秒)

今天我们讲了统计学的全套语言:分布、随机变量、PMF/PDF/CDF、期望、方差、矩、中心极限定理。但还有一个问题没解决——当你手里只有一份样本数据,怎么用它去估计总体的均值和方差? 样本均值 \(\bar X\) 和样本方差 \(s^2\) 之间到底什么关系?为什么 \(s^2\) 的分母是 \(n - 1\) 而不是 \(n\)?

下一节 §02 描述性度量,我们用今天这套语言,对真实数据动刀——手算均值、方差、中位数、分位数,并解释每一步为什么要这么算。

下次见。