Ch04 统计学 · 闪卡 (Anki 导出)¶
卡片 1(🟢 定义)¶
Q: 概率空间由哪三个对象组成? A: 概率空间是三元组 \((\Omega,\mathcal{F},P)\):\(\Omega\) 为样本空间,\(\mathcal{F}\) 为事件集合,\(P\) 为定义在事件上的概率函数。例如掷骰子 \(\Omega=\{1,\dots,6\}\)。 提示: 结果、事件、概率。 来源: 01.概率基础 §定义
卡片 2(🟢 定义)¶
Q: 概率公理 K1 是什么?给出纯净违反反例。 A: K1 非负性:任意事件 \(A\) 都满足 \(P(A)\ge0\),即概率不能为负。反例:若规定 \(P(\{1\})=-0.1\),则直接违反 K1。 提示: 只检查负值。 来源: 01.概率基础 §公理
卡片 3(🟢 定义)¶
Q: 概率公理 K2 是什么?给出纯净违反反例。 A: K2 规范化:\(P(\Omega)=1\),必然事件概率为 1。反例:样本空间 \(\Omega=\{正面,反面\}\),若规定 \(P(\Omega)=0.9\),则违反 K2。 提示: 全部结果概率必须为 1。 来源: 01.概率基础 §公理
卡片 4(🟢 定义)¶
Q: 概率公理 K3 是什么?给出纯净违反反例。 A: K3 可列可加性:两两互斥事件 \(A_1,A_2,\ldots\) 满足 \(P(\bigcup_iA_i)=\sum_iP(A_i)\)。反例:\(A,B\) 互斥,若 \(P(A)=0.4,P(B)=0.3\) 却规定 \(P(A\cup B)=0.8\),违反 K3。 提示: 互斥并集等于概率相加。 来源: 01.概率基础 §公理
卡片 5(🟢 公式)¶
Q: 如何由概率公理推出补集公式? A: \(A\) 与 \(A^c\) 互斥且并为 \(\Omega\),所以 \(P(A)+P(A^c)=1\),即 \(P(A^c)=1-P(A)\)。若 \(P(A)=0.7\),则 \(P(A^c)=0.3\)。 提示: 先拆全体事件。 来源: 01.概率基础 §公式
卡片 6(🟡 公式)¶
Q: 如何计算两个事件并集概率? A: \(P(A\cup B)=P(A)+P(B)-P(A\cap B)\)。若 \(P(A)=0.5,P(B)=0.4,P(A\cap B)=0.2\),则并集概率为 \(0.7\)。 提示: 重叠部分只能算一次。 来源: 01.概率基础 §公式
卡片 7(🟢 直觉)¶
Q: 为什么事件独立不等于事件互斥? A: 独立表示一个事件发生不改变另一个概率:\(P(A\cap B)=P(A)P(B)\);互斥表示不能同时发生:\(P(A\cap B)=0\)。若两事件概率都大于 0,二者不能同时成立。 提示: 一个讲影响,一个讲共存。 来源: 01.概率基础 §直觉
卡片 8(🔴 反例/易错)¶
Q: 把 \(P(A\mid B)\) 写成 \(P(B\mid A)\) 有何错误? A: 条件方向相反,通常不相等。\(P(A\mid B)=P(A\cap B)/P(B)\),\(P(B\mid A)=P(A\cap B)/P(A)\)。例如 \(P(A)=0.2,P(B)=0.5,P(A\cap B)=0.1\),二者分别为 \(0.2\) 与 \(0.5\)。 提示: 分母决定方向。 来源: 01.概率基础 §易错
卡片 9(🟢 定义)¶
Q: 什么是随机变量?离散随机变量如何表示? A: 随机变量 \(X\) 是把样本结果映射为数值的函数。离散型 \(X\) 取可数值 \(x_i\),以概率质量函数 \(p_X(x_i)=P(X=x_i)\) 描述。例如掷骰子时 \(X\) 可取 \(1,\ldots,6\)。 提示: 它不是变量随意变化,而是结果的数值编码。 来源: 02.随机变量与分布 §定义
卡片 10(🟢 定义)¶
Q: 什么是概率质量函数 PMF?必须满足什么条件? A: PMF 为 \(p_X(x)=P(X=x)\),满足 \(p_X(x)\ge0\) 且 \(\sum_xp_X(x)=1\)。例如公平骰子 \(p_X(3)=1/6\),六个取值概率和为 1。 提示: 离散型逐点计概率。 来源: 02.随机变量与分布 §定义
卡片 11(🟢 定义)¶
Q: 什么是累积分布函数 CDF? A: \(F_X(x)=P(X\le x)\),表示随机变量不超过 \(x\) 的累计概率。它单调不减,且趋于负无穷时为 0、趋于正无穷时为 1。例如标准骰子 \(F_X(3)=3/6=0.5\)。 提示: “不超过”是关键。 来源: 02.随机变量与分布 §定义
卡片 12(🟡 公式)¶
Q: 期望和方差的公式是什么? A: \(E[X]=\sum_xxp_X(x)\);\(\mathrm{Var}(X)=E[(X-\mu)^2]=E[X^2]-\mu^2\),其中 \(\mu=E[X]\)。公平骰子 \(E[X]=3.5\),\(\mathrm{Var}(X)=35/12\)。 提示: 方差衡量围绕均值的平方偏离。 来源: 02.随机变量与分布 §公式
卡片 13(🟢 直觉)¶
Q: 期望是否一定等于某个实际可能取值? A: 不一定。期望是长期平均,不要求是单次结果。公平骰子期望为 \(3.5\),但骰子一次不可能掷出 \(3.5\)。 提示: 平均位置不必是可观测点。 来源: 02.随机变量与分布 §直觉
卡片 14(🟡 公式)¶
Q: 若 \(Y=aX+b\),如何计算其期望和方差? A: \(E[Y]=aE[X]+b\);\(\mathrm{Var}(Y)=a^2\mathrm{Var}(X)\)。若 \(E[X]=2,\mathrm{Var}(X)=3,Y=2X+1\),则 \(E[Y]=5,\mathrm{Var}(Y)=12\)。 提示: 平移改变均值,不改变方差。 来源: 02.随机变量与分布 §公式
卡片 15(🟡 直觉)¶
Q: 抽样分布与总体分布有什么区别? A: 总体分布描述单个总体观测值 \(X\);抽样分布描述统计量(如样本均值 \(\bar X\))在反复抽样中的分布。前者研究个体,后者研究统计量。 提示: 样本均值也会“随机”。 来源: 02.随机变量与分布 §直觉
卡片 16(🔴 反例/易错)¶
Q: 为什么不能把样本标准差直接当作样本均值标准差? A: 样本均值标准差是标准误:\(\mathrm{SE}(\bar X)=\sigma/\sqrt n\),随 \(n\) 增大而减小;样本标准差 \(s\) 衡量个体离散程度。二者对象不同,不能混用。 提示: 一个描述个体,一个描述均值估计。 来源: 02.随机变量与分布 §易错
卡片 17(🟢 定义)¶
Q: 什么是总体、样本与统计量? A: 总体是研究对象的全部集合;样本是从总体抽取的观测值 \(X_1,\ldots,X_n\);统计量是仅由样本计算的量,如 \(\bar X=\frac1n\sum_iX_i\),不含未知总体参数。 提示: 参数来自总体,统计量来自样本。 来源: 03.抽样与抽样分布 §定义
卡片 18(🟢 公式)¶
Q: 独立同分布样本均值的均值和方差是什么? A: 若 \(X_i\) 独立同分布,\(E[X_i]=\mu,\mathrm{Var}(X_i)=\sigma^2\),则 \(E[\bar X]=\mu\),\(\mathrm{Var}(\bar X)=\sigma^2/n\),标准误为 \(\sigma/\sqrt n\)。 提示: 平均后波动缩小 \(\sqrt n\) 倍。 来源: 03.抽样与抽样分布 §公式
卡片 19(🟡 定义)¶
Q: 中心极限定理 CLT 的核心结论是什么? A: 当样本量足够大且方差有限时,独立同分布样本均值近似正态:\(\bar X\approx N(\mu,\sigma^2/n)\),即使总体分布本身不是正态。 提示: 关注样本均值分布,不是总体分布。 来源: 03.抽样与抽样分布 §定义
卡片 20(🟡 公式)¶
Q: 如何把样本均值标准化为 Z 分数? A: \(Z=(\bar X-\mu)/(\sigma/\sqrt n)\)。若 \(\bar X=52,\mu=50,\sigma=10,n=100\),则标准误为 1,\(Z=2\)。 提示: 先算 \(\sigma/\sqrt n\)。 来源: 03.抽样与抽样分布 §公式
卡片 21(🟡 直觉)¶
Q: CLT 的数字例子:\(n=30\) 抽样时发生什么? A: 若总体均值 \(\mu=100\)、标准差 \(\sigma=15\),反复抽取 \(n=30\) 个样本,\(\bar X\) 近似正态,均值约 \(100\),标准误 \(\sigma/\sqrt n=15/\sqrt{30}\approx2.74\)。 提示: 样本均值比个体更稳定。 来源: 03.抽样与抽样分布 §直觉
卡片 22(🟡 直觉)¶
Q: 为什么 mini-batch SGD 与抽样分布有关? A: mini-batch 是总体数据的随机样本;批量损失梯度是总体梯度的随机估计。增大 batch 通常降低梯度方差,但计算成本上升,体现 \(\mathrm{Var}(\bar X)=\sigma^2/n\) 的规律。 提示: 每个 batch 都是一次抽样。 来源: 03.抽样与抽样分布 §AI/ML
卡片 23(🔴 反例/易错)¶
Q: “总体偏态,所以样本均值也一定偏态”错在哪里? A: 混淆总体分布与抽样分布。CLT 表明在条件满足且 \(n\) 足够大时,样本均值分布可近似正态;总体偏态不直接决定大样本均值的形状。 提示: 看的是 \(\bar X\) 的重复抽样。 来源: 03.抽样与抽样分布 §易错
卡片 24(🟢 定义)¶
Q: 什么是零假设、备择假设和显著性水平 \(\alpha\)? A: \(H_0\) 是待检验的基准命题,\(H_1\) 是与之竞争的命题。\(\alpha=P(\text{拒绝 }H_0\mid H_0\text{为真})\),即一类错误概率,常设 \(0.05\)。 提示: \(\alpha\) 是错拒真零假设。 来源: 04.假设检验 §定义
卡片 25(🟢 定义)¶
Q: 什么是二类错误 \(\beta\) 和检验功效 \(1-\beta\)? A: \(\beta=P(\text{不拒绝 }H_0\mid H_1\text{为真})\),是漏掉真实效应的概率;功效 \(1-\beta\) 是正确拒绝错误 \(H_0\) 的概率。二者之和为 1。 提示: \(\beta\) 漏报,\(1-\beta\) 检出。 来源: 04.假设检验 §定义
卡片 26(🟢 定义)¶
Q: p 值的严格定义是什么? A: p 值是在 \(H_0\) 成立时,观察到“至少与当前观测值一样极端”的结果的概率。它不是 \(H_0\) 为真的概率,也不是效应大小。 提示: 条件是 \(H_0\),尾部是至少一样极端。 来源: 04.假设检验 §定义
卡片 27(🟡 公式)¶
Q: 双侧 Z 检验的 p 值如何计算? A: 观测统计量为 \(z\) 时,双侧 p 值为 \(p=2[1-\Phi(|z|)]\)。若 \(z=2\),标准正态尾概率约 \(0.0228\),故 \(p\approx0.0456\)。 提示: 先取绝对值,再乘两侧。 来源: 04.假设检验 §公式
卡片 28(🟡 直觉)¶
Q: p 值小于 \(\alpha\) 时应如何决策? A: 若 \(p<\alpha\),拒绝 \(H_0\);若 \(p\ge\alpha\),不拒绝 \(H_0\)。不拒绝不等于证明 \(H_0\) 正确,只表示证据不足。 提示: “不拒绝”不是“接受为真”。 来源: 04.假设检验 §直觉
卡片 29(🟡 直觉)¶
Q: 假设检验如何对应 A/B 测试? A: \(H_0\) 可设为“版本 A、B 转化率相同”,\(H_1\) 为“存在差异”。用样本差异计算 p 值;若 \(p<\alpha\),判定差异具有统计证据,但仍需结合效应大小与业务成本。 提示: 显著不等于值得上线。 来源: 04.假设检验 §AI/ML
卡片 30(🔴 反例/易错)¶
Q: \(\alpha\)、\(\beta\) 与 \(1-\beta\) 分别表示什么? A: \(\alpha\):\(H_0\) 真却拒绝它(一类错误);\(\beta\):\(H_1\) 真却不拒绝 \(H_0\)(二类错误);\(1-\beta\):\(H_1\) 真且正确拒绝 \(H_0\)(功效)。三者不能混称。 提示: 真值与决策组成四格表。 来源: 04.假设检验 §易错
卡片 31(🟢 定义)¶
Q: 什么是点估计?什么是估计量与估计值? A: 估计量是样本的函数,如 \(\hat\mu=\bar X\);估计值是代入具体样本后得到的数字。样本 \((2,4,6)\) 的均值估计值为 \(\bar X=4\)。 提示: 量是规则,值是结果。 来源: 05.参数估计 §定义
卡片 32(🟢 定义)¶
Q: 无偏估计的定义是什么? A: 估计量 \(\hat\theta\) 无偏,若 \(E[\hat\theta]=\theta\)。样本均值满足 \(E[\bar X]=\mu\),因此是总体均值的无偏估计量。 提示: 平均意义上不系统偏离真值。 来源: 05.参数估计 §定义
卡片 33(🟡 公式)¶
Q: 总体方差未知时,均值置信区间如何写? A: 正态总体且 \(\sigma\) 未知时,均值的 \(1-\alpha\) 置信区间为 \(\bar x\pm t_{1-\alpha/2,n-1}s/\sqrt n\)。例如 \(\bar x=10,s=2,n=25\),区间为 \(10\pm t_{.975,24}(0.4)\)。 提示: 未知 \(\sigma\) 用 t 分布。 来源: 05.参数估计 §公式
卡片 34(🟢 定义)¶
Q: 频率学派置信区间的正确解释是什么? A: \(95\%\) 置信区间指该构造方法在重复抽样中约 \(95\%\) 的区间包含真参数;不是说本次固定区间含真参数的概率为 \(95\%\)。 提示: 概率属于方法的长期覆盖率。 来源: 05.参数估计 §定义
卡片 35(🟢 定义)¶
Q: Bayes 信用区间与频率学派置信区间有何不同? A: 置信区间是重复抽样方法的覆盖率陈述;Bayes 信用区间基于后验分布,直接表示给定数据后参数落入区间的后验概率,如 \(P(\theta\in I\mid D)=0.95\)。 提示: 一个谈方法覆盖,一个谈后验概率。 来源: 05.参数估计 §定义
卡片 36(🟡 公式)¶
Q: Bayes 公式是什么?单事件数字例如何算? A: \(P(A\mid B)=\frac{P(B\mid A)P(A)}{P(B)}\)。若患病率 \(P(A)=0.01\)、阳性率 \(P(B\mid A)=0.9\)、\(P(B)=0.05\),则 \(P(A\mid B)=0.9\times0.01/0.05=0.18\)。 提示: 先乘先验与似然,再除证据。 来源: 05.参数估计 §公式
卡片 37(🟡 公式)¶
Q: 朴素 Bayes 多条件公式是什么?给出数字例。 A: 朴素 Bayes 假设特征在类别 \(C\) 条件下独立:\(P(C\mid x_1,x_2)\propto P(C)P(x_1\mid C)P(x_2\mid C)\)。若两类得分分别为 \(0.6\cdot0.5\cdot0.4=0.12\)、\(0.4\cdot0.2\cdot0.8=0.064\),选第一类。 提示: 比较未归一化后验得分即可。 来源: 05.参数估计 §公式
卡片 38(🟡 直觉)¶
Q: Fisher 信息表示什么? A: Fisher 信息衡量数据对参数 \(\theta\) 的敏感程度:\(I(\theta)=E[(\partial_\theta\log p(X\mid\theta))^2]\)。信息越大,通常能达到的估计方差下界越小。 提示: 参数改变,分布变化越明显,信息越多。 来源: 05.参数估计 §直觉
卡片 39(🔴 反例/易错)¶
Q: 置信区间与预测区间为什么不能混用? A: 置信区间估计总体均值等参数;预测区间预测一个未来个体观测值。后者还包含个体自身波动,通常更宽。例如均值区间可能为 \([9,11]\),单个未来值区间可能为 \([5,15]\)。 提示: 预测个体比估计平均值更不确定。 来源: 05.参数估计 §易错
卡片 40(🔴 类比)¶
Q: 统计学中的 Fisher 信息矩阵与 Ch02 矩阵知识如何对应? A: Fisher 信息矩阵是参数空间中的曲率度量,常写为 \(I(\theta)=E[\nabla\ell(\theta)\nabla\ell(\theta)^\top]\);它类似损失函数 Hessian,描述不同参数方向的敏感度。这里 \(\nabla\ell\) 为列向量,矩阵形状为 \(d\times d\)。 提示: 梯度给方向,二阶结构给曲率。 来源: 05.参数估计 §进阶联系