Ch01 向量 — 48 张 Anki 闪卡¶

卡片 1 (定义)¶

Q: 什么是向量空间 (Vector Space)? A: 一组向量的集合, 配备加法与标量乘法, 满足十条公理; 核心是封闭性——加法与缩放的结果始终不"逃出"该集合。可以想成装向量的"游乐园"。提示: 关键词"不逃出这个空间"。来源: 01. 向量空间 §定义

卡片 2 (定义)¶

Q: 什么是子空间 (subspace)? A: 向量空间内部嵌套的一个更小的向量空间, 沿用父空间的加法与标量乘法, 且必须过原点(即包含零向量)。例: 3D 空间里过原点的直线或平面。来源: 01. 向量空间 §子空间

卡片 3 (公式)¶

Q: 向量空间十条公理里, 两条封闭性分别是什么? A: - 加法封闭: $\mathbf{u}, \mathbf{v} \in V \Rightarrow \mathbf{u} + \mathbf{v} \in V$ - 标量乘法封闭: $\mathbf{v} \in V, c \in F \Rightarrow c\mathbf{v} \in V$ 提示: 十条公理里最核心的两条, 其它八条是加法/标量乘法层面的代数结构。来源: 01. 向量空间 §十条公理

卡片 4 (直觉)¶

Q: 为何要把向量空间想成"游乐园"? A: 乐园里住着向量, 它们可以两两相加、可以被标量缩放, 但结果永远留在乐园里。十条公理就是这座乐园的规则手册; 先建立封闭性直觉, 再看公理会顺得多。来源: 01. 向量空间 §作者按

卡片 5 (例子)¶

Q: 为什么整数集 $\mathbb{Z}$ 在实数域上不是向量空间? A: 因为标量乘法不封闭: 取 $3 \in \mathbb{Z}$ 与标量 $0.5 \in \mathbb{R}$, 得到 $0.5 \times 3 = 1.5 \notin \mathbb{Z}$, 逃出了集合。来源: 01. 向量空间 §反例

卡片 6 (例子)¶

Q: 举 3 个"非箭头"型向量空间的例子。 A: - 灰度图像: $28 \times 28$ 图像先按行展平 (flatten) 成长度 784 的一维序列, 即 $\mathbb{R}^{784}$ 中一个向量 - 音频信号: 1 秒 44.1kHz 采样 = $\mathbb{R}^{44100}$ 中一个向量 - 多项式集合: 加法与数乘封闭, 构成向量空间 (例如 $\{a_0 + a_1 x + a_2 x^2\}$ 对应 $(a_0, a_1, a_2)$) 提示: 向量不一定长得像箭头; 只要能"展平"成一列数, 且加法/数乘封闭, 就是向量。来源: 01. 向量空间 §例子

卡片 7 (易错点)¶

Q: 一张 3D 空间里的平面在什么条件下才是子空间? A: 必须过原点。若平面偏离中心, 零向量不在其上, 就违反了加法封闭性 (加法逆元也会失败), 从而不再是子空间。提示: 常犯错误——把任意平面/直线当作子空间。来源: 01. 向量空间 §子空间关键要求

卡片 8 (直觉)¶

Q: 向量空间的"维度"直观含义是什么? A: 该空间中独立方向的个数。$\mathbb{R}^2$ 需 2 个坐标定位, $\mathbb{R}^3$ 需 3 个。在 2D 中任意两条线性无关向量就能到达平面任何点, 3D 中需要 3 个。来源: 01. 向量空间 §维度

卡片 9 (公式)¶

Q: 向量 $\mathbf{a} = (a_1, a_2, a_3)$ 的模长公式? A: $$\|\mathbf{a}\| = \sqrt{a_1^2 + a_2^2 + a_3^2}$$ 即勾股定理向高维推广, 度量原点到点的直线距离。数字例: $\|(3,4,0)\|=\sqrt{9+16}=5$。来源: 02. 向量的性质 §模长

卡片 10 (定义)¶

Q: 什么是单位向量? 如何构造? A: 模长恰好为 1 的向量, 纯粹表示方向不带长度。由归一化 (normalisation) 得到: $$\hat{\mathbf{a}} = \frac{\mathbf{a}}{\|\mathbf{a}\|}$$ 数字例: $\mathbf{a}=(3,4)$, $\hat{\mathbf{a}}=(3/5, 4/5)$。来源: 02. 向量的性质 §单位向量

卡片 11 (定义)¶

Q: 两个向量正交 (orthogonal) 意味着什么? A: 指向完全独立的方向 (夹角 90°), 沿其一个走对另一个"没有任何进展"。ML 中意味着两个特征携带完全独立的信息, 是理想的表征。数字例: $(1,0)\cdot(0,1)=0$。来源: 02. 向量的性质 §正交

卡片 12 (定义)¶

Q: 一组向量线性无关的定义是? A: 其中没有任何一个向量能表示为其他向量的线性组合 (缩放+相加); 每一个都贡献一个真正新的方向。反面: 若某个可由其余拼出 (如 $\mathbf{c} = 2\mathbf{a} + 3\mathbf{b}$), 则线性相关。来源: 02. 向量的性质 §线性无关

卡片 13 (公式)¶

Q: 两向量平行的代数判据是什么? A: $$\mathbf{a} \parallel \mathbf{b} \iff \mathbf{a} = k\mathbf{b},\ k \neq 0$$ - $k > 0$: 同向; $k < 0$: 反向。两者都躺在同一条过原点的直线上。来源: 02. 向量的性质 §平行

卡片 14 (直觉)¶

Q: 为什么"平行向量不带新的方向信息"? A: 若 $\mathbf{b} = k\mathbf{a}$, 则 $\mathbf{b}$ 只是 $\mathbf{a}$ 拉伸/翻转后的副本, 没提供新方向。因此平行向量集总是线性相关。ML 中冗余样本会让数据分布偏向被过度采样的方向。来源: 02. 向量的性质 §平行/线性相关

卡片 15 (易错点)¶

Q: 任何包含零向量的非空向量集合线性相关吗? 请给出完整判定。 A: 是——任何包含 $\mathbf{0}$ 的非空集合 $\{\mathbf{0}, \mathbf{v}_1, \dots, \mathbf{v}_k\}$ 总是线性相关。 - 完整反证: 线性无关要求"只有全零系数的线性组合才能等于 $\mathbf{0}$"。但取系数 $c_0 = 1, c_1 = \dots = c_k = 0$, 有 $1\cdot\mathbf{0} + 0\cdot\mathbf{v}_1 + \dots + 0\cdot\mathbf{v}_k = \mathbf{0}$, 系数不全为零却也凑出零向量, 违反线性无关定义。 - 数字例: $\{\mathbf{0}, (1,0), (0,1)\}$ 线性相关, 因 $1\cdot\mathbf{0} + 0\cdot(1,0) + 0\cdot(0,1)=\mathbf{0}$ 是非平凡组合。提示: 检验线性无关前先看有没有零向量; 有则立刻判"相关"。来源: 02. 向量的性质 §线性相关

卡片 16 (例子)¶

Q: 什么是稀疏向量? 为什么 ML 里在意稀疏性? A: 大部分分量为零的向量, 如 $\mathbf{s} = [0,0,3,0,0,0,1,0,0,0]$。稀疏性可只存储非零项, 显著节省存储与计算 (如稀疏矩阵、one-hot 编码、TF-IDF)。注: 常见误解"L¹ 范数天生稀疏" — 范数本身不诱导稀疏, 是$L^1$ 正则化项使优化解稀疏 (见卡 #48)。来源: 02. 向量的性质 §稀疏

卡片 17 (定义)¶

Q: 一个函数 $\|\cdot\|$ 要成为范数 (norm) 必须满足哪三条公理? A: 1. 非负性: $\|\mathbf{v}\| \geq 0$, 等号当且仅当 $\mathbf{v} = \mathbf{0}$ 2. 齐次性: $\|c\mathbf{v}\| = |c| \cdot \|\mathbf{v}\|$ 3. 三角不等式: $\|\mathbf{u}+\mathbf{v}\| \leq \|\mathbf{u}\| + \|\mathbf{v}\|$ 来源: 03. 范数与度量 §范数公理

卡片 18 (定义)¶

Q: 一个函数 $d(\cdot, \cdot)$ 要成为度量 (metric) 必须满足哪四条公理? A: 1. 非负性: $d(\mathbf{u}, \mathbf{v}) \geq 0$ 2. 同一性: $d = 0 \iff \mathbf{u} = \mathbf{v}$ 3. 对称性: $d(\mathbf{u}, \mathbf{v}) = d(\mathbf{v}, \mathbf{u})$ 4. 三角不等式: $d(\mathbf{u}, \mathbf{w}) \leq d(\mathbf{u}, \mathbf{v}) + d(\mathbf{v}, \mathbf{w})$ 来源: 03. 范数与度量 §度量公理

卡片 19 (公式)¶

Q: 广义 Lp 范数的定义? A: $$\|\mathbf{v}\|_p = (|v_1|^p + |v_2|^p + \cdots + |v_n|^p)^{1/p}$$ - $p = 1$: 曼哈顿; $p = 2$: 欧几里得; $p \to \infty$: 最大范数。$p$ 越大, 大分量占比越重。来源: 03. 范数与度量 §广义Lp

卡片 20 (公式)¶

Q: 写出 L1、L2、L∞ 三种范数的具体公式。 A: - L1 (曼哈顿): $\|\mathbf{v}\|_1 = \sum_i |v_i|$ - L2 (欧几里得): $\|\mathbf{v}\|_2 = \sqrt{\sum_i v_i^2}$ - L∞ (最大范数): $\|\mathbf{v}\|_\infty = \max_i |v_i|$

数字例: $\mathbf{v}=(3,-4,0)$, $\|\mathbf{v}\|_1=7$, $\|\mathbf{v}\|_2=5$, $\|\mathbf{v}\|_\infty=4$。来源: 03. 范数与度量 §三种范数

卡片 21 (直觉)¶

Q: 为何 L1 又叫"曼哈顿"距离? A: 想象自己在网格状街区的城市里, 不能斜穿大楼, 只能沿街走; 因此从 A 到 B 的"长度"是各坐标轴差值绝对值之和 (走过的街区数), 而不是直线距离。来源: 03. 范数与度量 §曼哈顿

卡片 22 (例子)¶

Q: 举一个"是度量但不来自任何范数"的例子。 A: 汉明距离 (Hamming distance): 两个等长向量中对应位置不相同的分量个数。它满足度量四公理, 但不满足由范数导出的平移不变缩放性: 若来自某范数, 应有 $d(c\mathbf{u}, c\mathbf{v}) = |c|\cdot d(\mathbf{u},\mathbf{v})$; 而汉明距离在缩放下不随比例改变。 - 数字反例: $\mathbf{u}=(0,0), \mathbf{v}=(1,1)$, $d(\mathbf{u},\mathbf{v})=2$。取 $c=3$: $d(3\mathbf{u}, 3\mathbf{v})=d((0,0),(3,3))=2\ne 3\cdot 2 = 6$。 - 故汉明距离不来自任何范数。提示: 说明"范数导度量"是单向的; 反过来必须验证齐次缩放这条平移不变的比例关系。来源: 03. 范数与度量 §汉明距离

卡片 23 (易错点)¶

Q: 为什么在有极端值的场景下, L2 会掩盖细节而 L1 不会? A: L2 在求和前先平方, 一个特别大的差值被平方后会主导整个总和, 让其它小差被淹没; L1 只取绝对值再相加, 每个分量平权。选错会显著改变 kNN、聚类、检索的结果。提示: 有离群值或异常大分量时优先考虑 L1。来源: 03. 范数与度量 §L1 vs L2

卡片 24 (直觉)¶

Q: 范数 (norm) 与度量 (metric) 有什么本质区别? A: 范数量的是单个向量的"大小"; 度量量的是两个向量之间的距离。每个范数可通过 $d(\mathbf{u},\mathbf{v}) = \|\mathbf{u}-\mathbf{v}\|$ 自然导出一个度量, 但反过来不成立 (如汉明距离)。来源: 03. 范数与度量 §关系

卡片 25 (定义)¶

Q: 一个函数 $\langle \cdot, \cdot \rangle$ 要成为实内积 (real inner product, 本卡仅实数域 $\mathbb{R}$) 必须满足哪三条公理? A: 1. 正定性: $\langle \mathbf{v}, \mathbf{v} \rangle \geq 0$, 等号当且仅当 $\mathbf{v} = \mathbf{0}$ 2. 对称性 (实数域): $\langle \mathbf{u}, \mathbf{v} \rangle = \langle \mathbf{v}, \mathbf{u} \rangle$ 3. 第一变量线性: $\langle a\mathbf{u}+b\mathbf{v}, \mathbf{w} \rangle = a\langle\mathbf{u},\mathbf{w}\rangle + b\langle\mathbf{v},\mathbf{w}\rangle$

复内积差异 ($\mathbb{C}$ 版本, 见 §04 进阶): 对称性升级为共轭对称 $\langle \mathbf{u},\mathbf{v}\rangle = \overline{\langle \mathbf{v},\mathbf{u}\rangle}$, 第二变量为共轭线性。来源: 04. 向量积 §内积公理

卡片 26 (公式)¶

Q: 点积 (dot product) 的代数形式与几何形式分别是? A: - 代数: $\mathbf{a} \cdot \mathbf{b} = \sum_i a_i b_i$ - 几何: $\mathbf{a} \cdot \mathbf{b} = \|\mathbf{a}\|\|\mathbf{b}\|\cos\theta$

特殊值: 同向 $\to$ 最大正值; 正交 $\to$ 0; 反向 $\to$ 最大负值。$\mathbf{a}\cdot\mathbf{a} = \|\mathbf{a}\|^2$。数字例: $(1,2)\cdot(3,4) = 3+8=11$。来源: 04. 向量积 §点积

卡片 27 (公式)¶

Q: 余弦相似度 (cosine similarity) 的公式? A: $$\cos\theta = \frac{\mathbf{a}\cdot\mathbf{b}}{\|\mathbf{a}\|\|\mathbf{b}\|} \in [-1, 1]$$ 把点积按模长归一化, 只看方向对齐, 忽略长度。ML 中广泛用于文档/嵌入/用户偏好比较。来源: 04. 向量积 §余弦相似度

卡片 28 (公式)¶

Q: 向量 $\mathbf{a}$ 在 $\mathbf{b}$ 上的投影公式? A: $$\text{proj}_{\mathbf{b}}(\mathbf{a}) = \frac{\mathbf{a}\cdot\mathbf{b}}{\|\mathbf{b}\|^2}\,\mathbf{b}$$ 几何上就是"光垂直照下时 $\mathbf{a}$ 在 $\mathbf{b}$ 方向上的影子"。数字例: $(1,0)$ 到 $(1,1)$ 方向的投影 $=\tfrac{1}{2}(1,1)$。来源: 04. 向量积 §投影

卡片 29 (公式)¶

Q: 3D 向量的叉积 $\mathbf{a} \times \mathbf{b}$ 的分量公式与几何意义? A: $$\mathbf{a}\times\mathbf{b} = (a_2 b_3 - a_3 b_2,\ a_3 b_1 - a_1 b_3,\ a_1 b_2 - a_2 b_1)$$ - 结果同时垂直于 $\mathbf{a}$ 和 $\mathbf{b}$ - 模长 $= \|\mathbf{a}\|\|\mathbf{b}\|\sin\theta$ = 平行四边形面积 - 方向由右手法则决定来源: 04. 向量积 §叉积

卡片 30 (直觉)¶

Q: 为什么说"点积用 $\cos\theta$, 叉积用 $\sin\theta$"背后的直觉相反? A: 点积衡量两向量方向多对齐——完全平行时 cos 最大, 正交时为 0; 叉积衡量两向量方向多不同——平行时 sin=0 面积为 0, 正交时 sin=1 面积最大。二者恰好互补。来源: 04. 向量积 §对比

卡片 31 (易错点)¶

Q: 叉积有哪两个常被误用的代数性质? A: - 不满足交换律: $\mathbf{a}\times\mathbf{b} = -(\mathbf{b}\times\mathbf{a})$ (交换顺序方向翻转) - 不满足结合律: $\mathbf{a}\times(\mathbf{b}\times\mathbf{c}) \neq (\mathbf{a}\times\mathbf{b})\times\mathbf{c}$ 另外叉积只在 3D 中定义 (点积在任意维度都成立)。来源: 04. 向量积 §叉积性质

卡片 32 (定义)¶

Q: 标量三重积 $\mathbf{a}\cdot(\mathbf{b}\times\mathbf{c})$ 的几何意义是什么? A: 三个向量张成的平行六面体的体积。若结果为 0, 则三个向量共面 (coplanar), 围不出体积。循环轮换保持不变: $\mathbf{a}\cdot(\mathbf{b}\times\mathbf{c}) = \mathbf{b}\cdot(\mathbf{c}\times\mathbf{a}) = \mathbf{c}\cdot(\mathbf{a}\times\mathbf{b})$。来源: 04. 向量积 §三重积

卡片 33 (定义)¶

Q: 什么是向量空间的基 (basis)? A: 一组同时满足两条件的向量: 1. 线性无关: 任一个不能由其他线性组合得出 2. 张成 (spanning): 空间里每个向量都可写成它们的线性组合

基中向量的个数 = 空间的维度。来源: 05. 基与对偶 §基

卡片 34 (定义)¶

Q: 什么是对偶空间 $V^\ast$? A: 所有线性泛函 $f: V \to \mathbb{R}$ (满足 $f(\mathbf{u}+\mathbf{v})=f(\mathbf{u})+f(\mathbf{v})$ 和 $f(c\mathbf{v})=cf(\mathbf{v})$) 组成的空间。直观上, 每个线性泛函都是一把"诚实的尺子", 用来测量向量; 对偶空间在有限维下是原空间的镜像。来源: 05. 基与对偶 §对偶空间

卡片 35 (公式)¶

Q: 基变换矩阵 $P$ 与 $P^{-1}$ 的角色是什么? (口诀 + 2×2 数字例) A: 约定 (与全书 §1.3 一致): $P$ 的第 $j$ 列 = 新基向量 $\mathbf{b}_j$ 在旧基下的坐标。坐标变换: - $\mathbf{v}_{旧} = P\, \mathbf{v}_{新}$ (把新坐标搬回旧描述) - $\mathbf{v}_{新} = P^{-1}\, \mathbf{v}_{旧}$ (把旧坐标翻到新描述)

一句话口诀: "$P$ 的列是新基, $P$ 把新坐标搬回旧描述。"

2×2 数字例: 旧基 $\mathbf{e}_1=(1,0), \mathbf{e}_2=(0,1)$, 新基 $\mathbf{b}_1=(1,1), \mathbf{b}_2=(1,-1)$。 $$P = \begin{pmatrix}1 & 1\\ 1 & -1\end{pmatrix},\quad P^{-1}=\tfrac{1}{2}\begin{pmatrix}1 & 1\\ 1 & -1\end{pmatrix}$$ 向量 $\mathbf{v}$ 旧坐标 $(2,0)^\top$, 新坐标 $P^{-1}(2,0)^\top = (1,1)^\top$。验证: $P(1,1)^\top=(2,0)^\top$ ✓。向量没动, 只是描述换了。来源: 05. 基与对偶 §基变换

卡片 36 (公式)¶

Q: 对偶基与克罗内克 δ 的校准关系是什么? 请写出完整定义式。 A: 设 $\{\mathbf{b}_1, \dots, \mathbf{b}_n\}$ 是 $V$ 的一组基, 对偶基 $\{\mathbf{b}_1^\ast, \dots, \mathbf{b}_n^\ast\} \subset V^\ast$ 定义为唯一满足: $$\mathbf{b}_i^\ast(\mathbf{b}_j) = \delta_{ij} = \begin{cases}1 & i=j\\ 0 & i \neq j\end{cases}\quad \forall\, i, j \in \{1, \dots, n\}$$ 即尺子 $\mathbf{b}_i^\ast$ 在配套基向量 $\mathbf{b}_i$ 上读数 1, 在其他基向量上读 0。矩阵形式: 若 $B$ 是以 $\mathbf{b}_j$ 为列的矩阵, 则 $B^{-1}$ 的第 $i$ 行就是 $\mathbf{b}_i^\ast$ 的坐标。$B^{-1}B = I$ 正是该规则的表格形式。来源: 05. 基与对偶 §克罗内克δ

卡片 37 (直觉)¶

Q: 用"咖啡馆指路"比喻解释基变换。 A: 你按东/北街道方向说咖啡馆在 $(3, 2)$; 朋友按东北/西北对角线说在 $(2.5, -0.5)$。同一家咖啡馆, 两套语言。$P$ 是把朋友坐标翻成你的语言的"字典", $P^{-1}$ 是反向翻译。向量没动, 只是描述方式变了。来源: 05. 基与对偶 §咖啡馆比喻

卡片 38 (例子)¶

Q: 在 $\mathbb{R}^2$ 中用新基 $\mathbf{b}_1 = (1,1)$, $\mathbf{b}_2 = (-1,1)$ 表达 $(3, 2)$, 新坐标是? A: $$ P = \begin{bmatrix}1 & -1\ 1 & 1\end{bmatrix} $$, 求 $P^{-1}(3,2)^\top$: $$P^{-1} = \tfrac{1}{2}\begin{bmatrix}1 & 1\\-1 & 1\end{bmatrix},\quad P^{-1}\begin{bmatrix}3\\2\end{bmatrix} = \begin{bmatrix}2.5\\-0.5\end{bmatrix}$$ 即 $(3,2) = 2.5\mathbf{b}_1 - 0.5\mathbf{b}_2$。来源: 05. 基与对偶 §例子

卡片 39 (易错点)¶

Q: 为什么不能用基向量 $\mathbf{b}_1$ 直接点积 $\mathbf{v}$ 来读它在新基下的第一个坐标? A: 因为只有单位正交 (orthonormal) 基才有 $\mathbf{b}_i \cdot \mathbf{v} = $ 坐标。例: $\mathbf{b}_1 = (1,1)$ 非单位正交, $\mathbf{b}_1 \cdot (3,2) = 5 \neq 2.5$。正确做法是用 $P^{-1}$ 的行 (即对偶基) 做点积: $(0.5, 0.5)\cdot(3,2) = 2.5$。提示: 标准基恰好正交且单位, 才让 $\mathbf{e}_i \cdot \mathbf{v}$ 直接给出坐标。来源: 05. 基与对偶 §正交陷阱

卡片 40 (直觉)¶

Q: 为什么说"$P^{-1}$ 的行就是对偶基"? A: 把 $(3,2)$ 翻成新基坐标就是乘 $P^{-1}$; 结果的第 $i$ 个分量 = $P^{-1}$ 的第 $i$ 行点积原向量 = 该新基下的第 $i$ 个坐标。所以 $P^{-1}$ 的每一行就是一把只读一个坐标的"诚实尺子" $\mathbf{b}_i^\ast$; 对偶基与原基是"列/行"关系。来源: 05. 基与对偶 §P⁻¹的行

卡片 41 (反例)¶

Q: 以下集合是向量空间吗: $V = \{(x, y) \in \mathbb{R}^2 : x + y = 1\}$? A: 不是。违反加法封闭与含零向量两条: - 零向量 $(0,0)$ 满足 $0+0=0 \ne 1$, 不在 $V$ 中。 - 反例: $\mathbf{u} = (1, 0), \mathbf{v}=(0, 1)$ 都在 $V$; 但 $\mathbf{u}+\mathbf{v}=(1,1)$, $1+1=2\ne 1$, 跑出 $V$。提示: 过原点是必要条件。任何形如 "$a x + b y = c\, (c\ne 0)$" 的直线/平面都不是子空间。来源: 01. 向量空间 §反例

卡片 42 (反例)¶

Q: 单位圆 $S = \{(x, y) : x^2 + y^2 = 1\}$ 是 $\mathbb{R}^2$ 的子空间吗? A: 不是。至少两条违反: - 不含零向量: $(0,0)$ 不在 $S$ 上。 - 加法不封闭反例: $(1,0), (0,1) \in S$, 但 $(1,0)+(0,1)=(1,1) \notin S$ ($1+1=2\ne 1$)。 - 标量乘法不封闭反例: $2\cdot(1,0)=(2,0) \notin S$。提示: 曲线/曲面几乎不可能是子空间, 除非退化为过原点的直线/平面。来源: 01. 向量空间 §反例

卡片 43 (反例)¶

Q: 第一象限 $Q = \{(x, y) : x \geq 0,\ y \geq 0\}$ 是 $\mathbb{R}^2$ 的子空间吗? A: 不是。违反标量乘法封闭 (对负标量): - 反例: $\mathbf{v}=(1, 2) \in Q$, 取 $c = -1$, 则 $c\mathbf{v}=(-1, -2) \notin Q$。 - 也可看作违反加法逆元存在: $(1,2)$ 的逆 $-(1,2)$ 不在 $Q$ 中。提示: "只含非负分量"这类半空间只是凸锥, 不是向量子空间。来源: 01. 向量空间 §反例

卡片 44 (反例)¶

Q: 定义 $d(x, y) = x - y$ (可正可负) 在 $\mathbb{R}$ 上是度量吗? A: 不是。违反非负性与对称性 两条: - 反例 (对称性): $d(1, 3) = 1 - 3 = -2$, 而 $d(3, 1) = 2$, 二者不等。 - 反例 (非负性): $d(1, 3) = -2 < 0$。提示: 有向距离/差值不是度量; 度量必须 $\ge 0$ 且对称。来源: 03. 范数与度量 §度量反例

卡片 45 (反例)¶

Q: 在 $\mathbb{R}^n$ 上定义 $N(\mathbf{v}) = |v_1|$ (只取第一分量绝对值) 是范数吗? A: 不是。违反正定性 (点分离) 一条: - 反例: 取 $\mathbf{v}=(0, 5) \ne \mathbf{0}$, 但 $N(\mathbf{v}) = |0| = 0$。范数要求 $\|\mathbf{v}\|=0 \Rightarrow \mathbf{v}=\mathbf{0}$, 此处不成立。 - 齐次性 $N(c\mathbf{v}) = |c|N(\mathbf{v})$ 与三角不等式都成立, 但只要正定性挂了就够。提示: 这类叫"半范数 (seminorm)", 只差一条正定性; 常见于对某些方向不敏感的度量。来源: 03. 范数与度量 §范数反例

卡片 46 (公式)¶

Q: 柯西-施瓦茨不等式 (Cauchy-Schwarz) 的表述与含义是什么? A: 对任意实内积空间中的向量 $\mathbf{u}, \mathbf{v}$: $$|\langle \mathbf{u}, \mathbf{v}\rangle| \leq \|\mathbf{u}\|\cdot\|\mathbf{v}\|$$ 等号成立 $\iff$ $\mathbf{u}, \mathbf{v}$ 线性相关 (共线)。

推论 1 (夹角合法): 由此可定义 $\cos\theta = \tfrac{\langle \mathbf{u}, \mathbf{v}\rangle}{\|\mathbf{u}\|\|\mathbf{v}\|} \in [-1, 1]$, 保证余弦相似度的范围合法。 推论 2 (三角不等式): 展开 $\|\mathbf{u}+\mathbf{v}\|^2 \leq (\|\mathbf{u}\|+\|\mathbf{v}\|)^2$ 就来自这条。

数字例: $\mathbf{u}=(1,2), \mathbf{v}=(3,4)$, $\langle \mathbf{u},\mathbf{v}\rangle=11$, $\|\mathbf{u}\|\|\mathbf{v}\| = \sqrt{5}\cdot\sqrt{25}=\sqrt{125}\approx 11.18$。 $11 \le 11.18$ ✓。来源: 04. 向量积 §Cauchy-Schwarz

卡片 47 (定义)¶

Q: 向量组的张成 (span) 是什么? 请给出定义与数字例。 A: 定义: 设 $\mathbf{v}_1, \dots, \mathbf{v}_k \in V$, 它们的张成是所有线性组合构成的集合: $$\mathrm{span}(\mathbf{v}_1, \dots, \mathbf{v}_k) = \left\{ c_1\mathbf{v}_1 + \dots + c_k\mathbf{v}_k : c_i \in \mathbb{R}\right\}$$ 它总是 $V$ 的子空间 (自动过原点, 加法与数乘封闭)。

数字例 1: $\mathrm{span}((1, 0)) = $ 全部 $x$ 轴 = 过原点的水平直线。 数字例 2: $\mathrm{span}((1, 0), (0, 1)) = \mathbb{R}^2$ 整个平面。 数字例 3: $\mathrm{span}((1, 1), (2, 2)) = $ 过原点方向为 $(1,1)$ 的直线 (两向量共线, 张成只剩 1 维)。

关系: - 若 $\mathbf{v}_1, \dots, \mathbf{v}_k$ 张成 $V$ 且线性无关 $\to$ 它们是 $V$ 的一组基 (见卡 #33)。 - 张成维度 = 线性无关向量的最大个数。来源: 05. 基与对偶 §张成

卡片 48 (澄清)¶

Q: 常见错误陈述"$L^1$ 范数天生稀疏 / 稀疏友好"——错在哪? 正确怎么说? A: 错在哪: 范数本身只是一个从向量到非负数的函数, 并不诱导任何稀疏; 它对给定向量的稀疏程度没有偏好。 正确表述: 应说"$L^1$ 正则化项使优化解稀疏", 或"$L^1$ 惩罚项使稀疏解成为最优点"。机制: 在最小化 $f(\mathbf{w}) + \lambda\|\mathbf{w}\|_1$ 时, $L^1$ 项的等值面是坐标轴对齐的菱形, 与目标函数等值线的接触点大概率落在顶点 (即某些坐标为 0), 于是最优 $\mathbf{w}^\ast$ 天然带零分量; 而 $L^2$ 的等值面是圆, 接触点几乎不会精确落在坐标轴, 故不稀疏。记住: 稀疏来自"优化 + 惩罚项", 不来自范数本身。来源: 03. 范数与度量 §L1 正则化 (进阶)