第 02 章 · 矩阵 —— 知识图谱 (Knowledge Mindmap)¶
一句话总结: 矩阵是"能装数据也能编码变换"的双面结构 —— 一格一格的数字网格是数据容器, 一次矩阵乘法是一次线性变换。本章从性质 → 类型 → 运算 → 线性变换 → 分解五节把这两面拼齐, 为 Ch05 PCA、Ch06 神经网络层、Ch08 卷积、Ch17 Attention 备料; 承接 Ch01 §05 基变换的
P列约定, 补上P⁻¹手算与相似变换Ã = P⁻¹ A P。
难度色标 (Legend): 🟢 入门 (L1-L2) · 🟡 进阶 (L3-L4) · 🔴 高阶 (L5-L6) · ⭐ 主干外可跳过
Ch01 回引: 本章 3 处显式回引 Ch01 §05 —— 04 节 (基变换约束线性映射的矩阵表示)、05 节 (对角化即"换到特征基下")、⭐ 进阶节 (P⁻¹ 行几何 + 协变逆变)。
Mermaid Mindmap¶
🌳 Ch2 章 知识图谱
├─ 01 矩阵性质 Properties
│ └─ 定义 Definition 🟢
│ │ └─ 行列数字网格 🟢
│ │ └─ A_ij 第 i 行第 j 列 🟢
│ │ └─ m x n 尺寸 🟢
│ └─ 样本-特征约定 🟢
│ │ └─ 行 = 样本 列 = 特征 🟢
│ │ └─ 与 sklearn pandas 一致 🟢
│ └─ 转置 Transpose 🟢
│ │ └─ A^T 沿对角线翻 🟢
│ │ └─ A A^T 是 m x m 方阵 🟢
│ │ └─ (AB)^T = B^T A^T 🟡
│ └─ 迹 Trace 🟢
│ │ └─ 对角元素之和 🟢
│ │ └─ tr(B) = 1+5+9 = 15 🟢
│ │ └─ 等于特征值之和 🟡
│ │ └─ 与基无关量 🟡
│ └─ 秩 Rank 🟡
│ │ └─ 独立行 (列) 数量 🟡
│ │ └─ ,] 秩 1 🟢
│ │ └─ 满秩 ⇔ 可逆 🟡
│ │ └─ 秩-零度定理<br/>rank + nullity = n 🟡
│ └─ 行列式 Determinant 🟢
│ │ └─ ad - bc 面积缩放 🟢
│ │ └─ det,] = 6 🟢
│ │ └─ 为零 ⇒ 奇异 不可逆 🟡
│ │ └─ 为负 ⇒ 定向翻转 🟡
│ │ └─ 余子式展开 (3x3+) 🟡
│ └─ 逆矩阵 Inverse 🟢
│ │ └─ A A⁻¹ = I 🟢
│ │ └─ <!-- FIX: M3 -->
│ │ └─ 2x2 手算三步 🟢
│ │ │ └─ Step1 det = ad-bc 🟢
│ │ │ └─ Step2 adj = ,] 🟢
│ │ │ └─ Step3 A⁻¹ = 1/det · adj 🟢
│ │ └─ <!-- FIX: M3 完整数字例 -->
│ │ └─ 完整数字例 P=,] 🟢
│ │ │ └─ det = 1·(-1)-1·1 = -2 🟢
│ │ │ └─ adj = ,] 🟢
│ │ │ └─ P⁻¹ = -1/2 · adj = ,] 🟢
│ │ │ └─ 验证 P·P⁻¹ = I 🟢
│ │ └─ <!-- FIX: R2 3x3 降级为备注 -->
│ │ └─ 3x3 及以上 ⭐<br/>参见 Ch03 §01 高斯消元 🔴
│ └─ <!-- FIX: R1 进阶下沉 -->
│ └─ ⭐ 条件数 Condition Number 🔴
│ │ └─ kappa = ||A|| · ||A⁻¹|| 🟡
│ │ └─ 接近 1 良态 🟡
│ │ └─ 巨大 病态 数值放大 🔴
│ └─ <!-- FIX: R1 进阶下沉 -->
│ └─ ⭐ 矩阵范数 Matrix Norm 🔴
│ │ └─ Frobenius ||A||_F 🟡
│ │ └─ ||,]||_F = sqrt(30) 🟡
│ │ └─ 谱范数 = 最大奇异值 🔴
│ └─ <!-- FIX: R1 进阶下沉 -->
│ └─ ⭐ 正定 Positive Definite 🔴
│ │ └─ x^T A x > 0 恒正 🟡
│ │ └─ 半正定 PSD ≥ 0 🟡
│ │ └─ 协方差 核矩阵 Hessian 都是 PSD 🟡
│ └─ <!-- FIX: R1 进阶下沉 -->
│ └─ ⭐ 四个基本子空间 🔴
│ │ └─ 列空间 Column Space 🟡
│ │ └─ 行空间 Row Space 🟡
│ │ └─ 零空间 Null Space 🟡
│ │ └─ 左零空间 🔴
├─ 02 矩阵类型 Types
│ └─ 方阵 Square 🟢
│ │ └─ n x n 才谈行列式 特征值 🟢
│ └─ 单位矩阵 Identity I 🟢
│ │ └─ 对角全 1 其余 0 🟢
│ │ └─ AI = IA = A 🟢
│ └─ 零矩阵 O 🟢
│ │ └─ 全 0 信息毁尽 🟢
│ └─ 对角 Diagonal 🟢
│ │ └─ 除对角外全 0 🟢
│ │ └─ 乘向量 = 逐分量缩放 🟢
│ └─ 对称 Symmetric 🟢
│ │ └─ A = A^T 🟢
│ │ └─ 特征向量两两正交 🟡
│ │ └─ 协方差矩阵天然对称 🟢
│ └─ 三角 Triangular 🟢
│ │ └─ 上/下三角 🟢
│ │ └─ det = 对角元乘积 🟢
│ │ └─ 前代 回代高效求解 🟢
│ └─ 正交 Orthogonal Q 🟡
│ │ └─ Q^T Q = I 🟡
│ │ └─ 列单位正交 🟡
│ │ └─ det = +1 (旋转) 或 -1 (反射) 🟡
│ │ └─ Ch01 §05 回引<br/>Q^T 即 Q⁻¹ 🟡
│ └─ 稀疏 vs 稠密 🟢
│ │ └─ Sparse 大多为 0 🟢
│ │ └─ 社交网络 10^6 x 10^6 🟢
│ │ └─ CSR 存储格式 🟡
│ └─ 置换 Permutation 🟢
│ │ └─ 单位矩阵行重排 🟢
│ │ └─ 每行每列一个 1 🟢
│ └─ Toeplitz 🟡
│ │ └─ 对角线常数 🟡
│ │ └─ 卷积滤波器 🟡
│ └─ 循环 Circulant 🟡
│ │ └─ 每行是上行循环移位 🟡
│ │ └─ DFT 对角化 🔴
│ └─ 复域对应 Complex 🔴
│ │ └─ Hermite A = A* 🔴
│ │ └─ 酉 U* U = I 🔴
│ │ └─ 首次切换 C 域标注 🔴
│ └─ 幂等 Idempotent 🟡
│ │ └─ A^2 = A 🟡
│ │ └─ 投影 二次不改 🟡
│ └─ 幂零 Nilpotent 🔴
│ │ └─ A^k = O 🔴
│ │ └─ ,]^2 = O 🔴
│ └─ 布尔/邻接 Boolean 🟡
│ │ └─ 01 矩阵 编码图 🟡
│ └─ Vandermonde 🔴
│ │ └─ ,...] 🔴
│ │ └─ 多项式插值 🔴
├─ 03 矩阵运算 Operations
│ └─ 加与标乘 🟢
│ │ └─ 同尺寸逐元素 🟢
│ │ └─ c·A 每格乘 c 🟢
│ └─ 矩阵-向量乘 Ax 🟢
│ │ └─ 列的加权和<br/>,](5,6) = 5·(1,3)+6·(2,4) 🟢
│ │ └─ 神经网络层 Ax + b 🟢
│ └─ 矩阵乘法 AB 🟡
│ │ └─ C_ij = Σ_k A_ik B_kj 🟡
│ │ └─ 内维必配 结果 m x p 🟡
│ │ └─ 不交换 AB ≠ BA 🟡
│ │ └─ 结合律 分配律 成立 🟡
│ │ └─ <!-- FIX: M4 完整数字算例 -->
│ │ └─ 完整数字例<br/>A=,] B=,] 🟢
│ │ │ └─ C_11 = 1·5+2·7 = 19 🟢
│ │ │ └─ C_12 = 1·6+2·8 = 22 🟢
│ │ │ └─ C_21 = 3·5+4·7 = 43 🟢
│ │ │ └─ C_22 = 3·6+4·8 = 50 🟢
│ │ │ └─ AB = ,] 🟢
│ │ │ └─ 验证不交换<br/>BA = ,] ≠ AB 🟡
│ │ └─ Ch01 §05 回引<br/>先 B 变换再 A 变换 🟡
│ └─ Hadamard 积 A ⊙ B 🟢
│ │ └─ 逐元素乘 交换 🟢
│ │ └─ gating 门控用 🟡
│ └─ 外积 u v^T 🟡
│ │ └─ 输出秩 1 矩阵 🟡
│ │ └─ SVD 的积木 🔴
│ └─ Kronecker 积 ⭐进阶提及 🔴
│ │ └─ 块结构 A ⊗ B 🔴
│ └─ 稀疏 CSR 🟡
│ │ └─ values / cols / row_offsets 🟡
│ │ └─ 跳过零 O(nnz) 🟡
│ └─ 解 Ax = b 🟢
│ │ └─ 水果价问题<br/>2a+b=5, a+3b=10 🟢
│ │ └─ 直接求逆 昂贵不稳 🟡
│ │ └─ 实际用分解 🟡
│ └─ 伪逆 A+ 🟡
│ │ └─ A+ = (A^T A)⁻¹ A^T 🟡
│ │ └─ 任意矩阵总存在 🟡
│ └─ 前代/回代 🟢
│ │ └─ Lx = b 从上往下 🟢
│ │ └─ Ux = b 从下往上 🟢
├─ 04 线性变换 Linear Transformations
│ └─ 定义 Definition 🟡
│ │ └─ 向量 → 向量 保线性 🟡
│ │ └─ 矩阵 = 变换本身 🟢
│ └─ %% FIX: M1 公理框架改为两条公理 + 一个推论
│ └─ 线性映射公理框架<br/>两条公理 + 一个推论 🟡
│ │ └─ 加性公理 Additivity (公理 1)<br/>T(u+v) = T(u)+T(v)<br/>大白话 先加再变=分别变再加<br/>反例 T(x)=x² T(1+1)=4≠T(1)+T(1)=2 🟡
│ │ └─ %% FIX: M2 齐次反例改为 T(x)=|x|
│ │ └─ 齐次性公理 Homogeneity (公理 2)<br/>T(cv) = cT(v)<br/>大白话 缩放先后可换<br/>反例 T(x)=|x| T(-1·1)=1≠-1·T(1)=-1<br/>注 |x| 保 T(0)=0 但违反齐次 更纯 🟡
│ │ └─ T(0) = 0 推论 (非独立公理)<br/>由齐次令 c=0 直接推出<br/>T(0) = T(0·v) = 0·T(v) = 0<br/>用途 平移 T(x)=x+1 T(0)=1≠0 一眼判非线性 🟡
│ └─ 列的几何意义 🟢
│ │ └─ A 的列 = 基向量落到哪 🟢
│ │ └─ i_hat → 第一列 j_hat → 第二列 🟢
│ └─ 不交换性 🟡
│ │ └─ 先旋转再平移 ≠ 先平移再旋转 🟡
│ └─ 旋转 Rotation R(θ) 🟡
│ │ └─ cos -sin / sin cos 🟡
│ │ └─ θ=90° ,] 🟢
│ │ └─ 正交 det = +1 保长度 🟡
│ └─ 缩放 Scaling 🟢
│ │ └─ 对角 S(sx, sy) 🟢
│ │ └─ s = -1 翻转分量 🟢
│ └─ 反射 Reflection 🟡
│ │ └─ 沿 x 轴 ,] 🟡
│ │ └─ det = -1 定向翻转 🟡
│ └─ 错切 Shearing 🟡
│ │ └─ Sh(k) = ,] 🟡
│ │ └─ 斜体字的来源 🟢
│ └─ %% FIX: M8 刚体变换脚注
│ └─ 刚体变换 Rigid 🟡
│ │ └─ 保距离保角度 🟡
│ │ └─ 广义刚体 = 旋转 + 反射 + 平移 🟡
│ │ └─ 脚注 严格 SE(n) 只含旋转+平移<br/>(det = +1, 保定向)<br/>广义刚体含反射 (det = ±1) 🟡
│ └─ 平移非线性 🟡
│ │ └─ 破坏 T(0) = 0 🟡
│ │ └─ 需引入仿射 🟡
│ └─ 仿射变换 Affine 🟡
│ │ └─ y = A x + t 🟡
│ │ └─ 齐次坐标 (x, 1) 升维处理 🟡
│ │ └─ 游戏引擎物体摆位 🟢
│ └─ 退化变换 Degenerate 🟡
│ │ └─ 奇异矩阵压维 🟡
│ │ └─ RGB → 灰度 信息不可恢复 🟢
│ └─ 核与像 Kernel Image 🟡
│ │ └─ Ker(T) = 零空间 🟡
│ │ └─ Im(T) = 列空间 🟡
│ └─ %% FIX: Ch01 §05 基变换回引 #1
│ └─ 基变换约束 Change of Basis 🟡
│ │ └─ P 的列 = 新基向量在旧基下的坐标 🟡
│ │ └─ v_旧 = P v_新, v_新 = P⁻¹ v_旧 🟡
│ │ └─ 相似变换 Ã = P⁻¹ A P 🔴
│ │ └─ 2x2 手算例<br/>P=,]<br/>P⁻¹=1/2·,] 🟡
│ │ └─ <!-- FIX: R2 3x3 P⁻¹ 降级为备注 -->
│ │ └─ 3x3 P⁻¹ 参见 Ch03 §01 高斯消元 🔴
│ │ └─ 同一变换 换基后矩阵不同 迹和行列式不变 🔴
│ └─ 神经网络与 Transformer 🟢
│ │ └─ 每层 = 一次 A x + b 🟢
│ │ └─ Transformer 靠一串线性变换驱动 🟢
├─ 05 矩阵分解 Decompositions
│ └─ 分解目的 Why 🟢
│ │ └─ 更快解方程 稳定求逆 🟢
│ │ └─ 找特征 压缩数据 🟢
│ └─ 高斯消元 Gaussian Elim 🟢
│ │ └─ 三种行运算 交换 缩放 加倍 🟢
│ │ └─ 目标 化为三角 🟢
│ └─ REF / RREF 🟡
│ │ └─ REF 行阶梯形 🟡
│ │ └─ RREF 主元为 1 唯一 🟡
│ └─ LU 分解 🟡
│ │ └─ A = LU 或 PLU 🟡
│ │ └─ 一次分解 多组 b 复用 🟡
│ └─ Cholesky 分解 🟡
│ │ └─ A = L L^T 仅对称正定 🟡
│ │ └─ 比 LU 快一倍 🟡
│ │ └─ 失败即非正定 🟡
│ └─ 特征值/向量 Eigen 🟡
│ │ └─ A x = λ x 只缩不转 🟡
│ │ └─ A=,] (1,0) 是 λ=3 特征向量 🟢
│ │ └─ det(A - λI) = 0 求解 🟡
│ │ └─ 对称阵 特征向量正交 特征值实 🟡
│ └─ %% FIX: Ch01 §05 基变换回引 #2
│ └─ 对角化 Diagonalisation 🟡
│ │ └─ A = P D P⁻¹ 🟡
│ │ └─ P 列 = 特征向量<br/>= 新基在旧基下坐标 (Ch01 §05) 🟡
│ │ └─ A^100 = P D^100 P⁻¹ 廉价 🟡
│ │ └─ 特征基 Eigenbasis<br/>相当于换到自然坐标系 🟡
│ └─ 迭代求特征 🔴
│ │ └─ 幂迭代 主特征 🔴
│ │ └─ QR 算法 主力 🔴
│ │ └─ 反迭代 Lanczos Arnoldi 🔴
│ └─ QR 分解 🟡
│ │ └─ A = Q R 🟡
│ │ └─ Q 正交 R 上三角 🟡
│ │ └─ Gram-Schmidt 构造 🔴
│ │ └─ 最小二乘引擎 🟡
│ └─ SVD 奇异值分解 🟡
│ │ └─ A = U Σ V^T 任意矩阵 🟡
│ │ └─ 旋转-缩放-旋转<br/>圆 → 椭圆 🟢
│ │ └─ σ1 ≥ σ2 ≥ ... 非负排序 🟡
│ │ └─ 秩 = 非零 σ 数量 🟡
│ └─ 低秩逼近 Low-rank 🟡
│ │ └─ 保留最大 k 个 σ 🟡
│ │ └─ 1000x1000 图 k=50 压缩 20 倍 🟢
│ └─ PCA 主成分分析 🟡
│ │ └─ 协方差矩阵特征分解 🟡
│ │ └─ PC1 = 方差最大方向 🟡
│ │ └─ 标准化 → 协方差 → 特征 → 投影 🟡
│ │ └─ Ch01 §05 回引<br/>主成分 = 新的正交基 🟡
│ └─ 谱定理 Spectral 🔴
│ │ └─ 对称阵必可正交对角化 🔴
│ │ └─ PCA 理论基石 🔴
│ └─ Schur 分解 🔴
│ │ └─ A = Q T Q* 不可对角化亦可 🔴
│ └─ NMF 非负分解 🔴
│ │ └─ A ≈ WH 元素 ≥ 0 🔴
│ │ └─ 主题建模可解释 🔴
├─ ⭐ 06 进阶专题 Advanced
│ └─ %% FIX: Ch01 §05 基变换回引 #3
│ └─ P⁻¹ 的行几何 🔴
│ │ └─ 每行 = 对偶基 = 该新基向量的"读数尺" 🔴
│ │ └─ 非正交基下不能用点积读坐标 🔴
│ └─ 协变 vs 逆变 🔴
│ │ └─ 协变分量随基逆变 🔴
│ │ └─ 逆变分量随基协变 🔴
│ │ └─ 张量代数入口 🔴
│ └─ 核 PCA 🔴
│ │ └─ 核函数升维 结构变线性 🔴
│ └─ Kronecker 积 A ⊗ B 🔴
│ │ └─ 块结构 (Ax)(By)^T = (A⊗B) vec(xy^T) 🔴
│ │ └─ 多线性代数 图像批处理 🔴
│ └─ 张量 vs 多维数组 🔴
│ │ └─ 深度学习 tensor = 多维数组 🔴
│ │ └─ 数学 tensor = 多重线性映射 🔴
│ └─ 矩阵函数 f(A) 🔴
│ │ └─ e^A 通过特征分解定义 🔴
│ │ └─ LTI 系统 图神经网络 🔴
学习路径建议 (Learning Roadmap)¶
主干路径 (10 天速通)¶
- Day 1 · 01 矩阵性质 (前半) 🟢 — 定义、转置、迹、秩; 记住 "行 = 样本, 列 = 特征" 的机器学习约定
- Day 2 · 01 矩阵性质 (后半) 🟡 — 行列式、逆矩阵 (手算 2×2 三步: det → adj → 1/det·adj); ⭐ 条件数、Frobenius 范数、正定、四子空间放到进阶节
- Day 3 · 02 矩阵类型 (基础) 🟢 — 方阵、单位、对角、对称、三角、正交、稀疏
- Day 4 · 02 矩阵类型 (扩展) 🟡 — 置换、Toeplitz、循环、Hermite、幂等、幂零
- Day 5 · 03 矩阵运算 (基础) 🟢 — 加/乘、矩阵-向量乘、外积; 手算 \(A\mathbf{x} + \mathbf{b}\)
- Day 6 · 03 矩阵运算 (进阶) 🟡 — 矩阵乘法性质 (手算 \(A B\) 完整算例)、Hadamard、CSR、解 \(A\mathbf{x} = \mathbf{b}\)、伪逆
- Day 7 · 04 线性变换 (核心) 🟡 — 线性映射两条公理 + 一个推论、列的几何意义、旋转/缩放/反射/错切
- Day 8 · 04 线性变换 (扩展) 🟡 — 平移非线性、仿射 + 齐次坐标、基变换约束、核与像
- Day 9 · 05 矩阵分解 (三角家族) 🟡 — 高斯消元、REF/RREF、LU、Cholesky
- Day 10 · 05 矩阵分解 (谱家族) 🟡 — 特征值/向量、对角化 \(A = PDP^{-1}\)、QR、SVD、低秩、PCA
进阶路径 (⭐ 可跳过, 面向研究/深造)¶
- ⭐ 01 节内进阶: 条件数、矩阵范数、正定 (PSD)、四个基本子空间 —— 数值稳定性与最优化的入口
- ⭐ 06 进阶专题 🔴 —
P⁻¹的行几何 (对偶基) / 协变逆变 / 核 PCA / Kronecker 积 / 张量 vs 多维数组 / 矩阵函数 - 服务对象: Ch03 微积分中的雅可比矩阵、Ch12 图神经网络的图 Laplacian 谱分解、Ch17 Attention 的 QK^T 对偶视角
依赖关系¶
- 02 依赖 01: 讲"对称矩阵特征向量正交"前, 必须先有"秩、行列式、特征值"的定义 (01)
- 03 依赖 01+02: 矩阵乘法的复杂度分析要用秩 (01) 和稀疏结构 (02)
- 04 综合 01+02+03: 线性变换 = 矩阵 (01) × 向量 (Ch01), 特殊变换类型 = 特殊矩阵 (02), 变换合成 = 乘法 (03)
- 05 综合 前四节: 分解的目标是把一般矩阵拆成 02 里的特殊类型 (三角、对角、正交); 依赖 04 的"变换视角"理解 SVD 几何
- ⭐ 06 依赖 04+05: 对偶基必须先懂基变换 (04); Kronecker 与张量必须先懂 SVD (05)
与 Ch01 的三处显式回引¶
- 04 节 · 基变换约束 — 引用 Ch01 §05 的 "\(P\) 的列 = 新基向量在旧基下的坐标" 约定, 给出 2×2 数字例 \(P=[[1,1],[1,-1]]\), \(P^{-1}=\tfrac{1}{2}[[1,1],[1,-1]]\); 3×3 及以上参见 Ch03 §01 高斯消元
- 05 节 · 对角化 — 强调 \(A = PDP^{-1}\) 里的 \(P\) 就是 Ch01 §05 的基变换矩阵, 只是这次新基选成了特征向量
- ⭐ 06 ·
P⁻¹的行几何 — 补 Ch01 遗留的 "\(P^{-1}\) 每一行 = 对偶基" 断层, 说清非正交基下为什么不能用点积读坐标
与 Ch03+ 的正向依赖 (本章为后续备料)¶
- Ch03 微积分 — 雅可比 = 局部线性变换 (04); 梯度 = 线性泛函 (⭐ 06); 3×3 及以上矩阵逆走高斯消元 (Ch03 §01)
- Ch04 统计 — 协方差矩阵 (01 ⭐ 正定) → PCA (05)
- Ch05 概率 — 多元高斯的精度矩阵 = 协方差的逆 (01); 转移矩阵 (02 随机矩阵)
- Ch06 机器学习 — 最小二乘 = 伪逆 (03); 岭回归 = 正定正则 (01 ⭐)
- Ch08 视觉 — 卷积 = Toeplitz / 循环矩阵 (02)
- Ch12 GNN — 邻接矩阵 (02) → 图 Laplacian 谱分解 (05)
- Ch17 Attention — QK^T 用矩阵乘 (03); 多头 = 分块矩阵 (⭐ 06)
常见误区提醒¶
- 迹只对方阵有定义 — 长方矩阵没有迹, \(2 \times 3\) 矩阵不能求迹
- 秩 = 独立行数 = 独立列数 — 两个视角同一个数, 不要以为行秩和列秩不同
- 奇异矩阵不是"很小的矩阵" — 是行列式为 0、不可逆、把空间压维的矩阵; \(2 \times 2\) 也可能奇异
- 矩阵乘法不满足交换律 — \(AB \neq BA\) 是常态; 拿 $$ A=\begin{pmatrix}1&2\3&4\end{pmatrix}, B=\begin{pmatrix}5&6\7&8\end{pmatrix} $$ 手算, $$ AB=\begin{pmatrix}19&22\43&50\end{pmatrix} $$, $$ BA=\begin{pmatrix}23&34\31&46\end{pmatrix} $$, 明显不等
- 平移不是线性变换 — 它挪动了原点, 破坏 \(T(\mathbf{0}) = \mathbf{0}\); 想统一处理必须用仿射 + 齐次坐标
- 线性映射公理框架 = 两条公理 + 一个推论 — 加性 + 齐次性是两条独立公理; \(T(\mathbf{0}) = \mathbf{0}\) 是"齐次令 \(c=0\)"的直接推论, 不是第三条独立公理。判定线性只需查加性 + 齐次两条; \(T(\mathbf{0}) = \mathbf{0}\) 常用来快速排除非线性 (如平移 \(T(x)=x+1\) 直接被判掉), 但它单独成立不足以说明线性
- 齐次性反例首选 \(T(x)=|x|\) — 因为 \(T(0)=|0|=0\) 保住 \(T(\mathbf{0})=\mathbf{0}\), 却在 \(c=-1\) 时露馅: \(T(-1 \cdot 1)=1 \neq -1 \cdot T(1)=-1\); 比 \(T(x)=x+1\) 更纯 (后者同时违反齐次与 \(T(0)=0\))
- ⭐ 对称 \(\neq\) 正定 — 对称只要求 \(A = A^T\), 正定还要 \(\mathbf{x}^T A \mathbf{x} > 0\); 对称阵可以有负特征值
- 刚体变换的两种定义 — 广义"刚体"含旋转 + 反射 + 平移 (保距离保角度, \(\det = \pm 1\)); 严格 SE(n) (Special Euclidean Group) 只含旋转 + 平移 (\(\det = +1\), 保定向), 排除反射。工程上说"刚体"通常指广义, 机器人学/图形学动力学说"刚体运动"通常指 SE(n)
- 基变换 \(P\) 方向 (Ch01 §05 复述) — \(P\) 的列是新基向量在旧基下的坐标, \(\mathbf{v}_{旧} = P\mathbf{v}_{新}\), \(\mathbf{v}_{新} = P^{-1}\mathbf{v}_{旧}\); 相似变换写 \(\tilde A = P^{-1} A P\), 不允许写反
- 2×2 求逆三步 — Step 1 算 \(\det = ad-bc\); Step 2 写伴随 $$ \operatorname{adj} = \begin{pmatrix}d & -b\-c & a\end{pmatrix} $$ (对角对换, 副对角取负); Step 3 \(A^{-1} = \frac{1}{\det} \cdot \operatorname{adj}\)。\(3 \times 3\) 及以上不建议手算伴随, 用高斯消元 (Ch03 §01)
- 对角化 \(A = PDP^{-1}\) 的 \(P\) 就是基变换矩阵 — 只不过新基特意选成了 \(A\) 的特征向量; 这就是"特征基"名字的来源
- 不是每个方阵都能对角化 — 缺少足够线性无关特征向量的矩阵 (如 $$ \begin{pmatrix}1&1\0&1\end{pmatrix} $$) 无法对角化; 但 Schur 分解总能做
- SVD 覆盖比特征分解更广 — 特征分解只对方阵有效, SVD 对任意 \(m \times n\) 矩阵都有效, 且奇异值必然非负实数
- PCA 之前必须标准化 — 不标准化, 单位大的特征 (公里) 会盖过单位小的特征 (厘米), 主成分变成度量单位偏差
Q^T = Q^{-1}只对正交矩阵成立 — 一般矩阵别乱写; 求逆要走 LU / 高斯-约当- 稀疏矩阵不是"存零少的矩阵" — 是结构上大多数元素为零, 且用 CSR/CSC 等专用格式存储的矩阵; 光是含很多零但用稠密数组存, 不叫稀疏
Ax = b不总有解 — 若 \(\mathbf{b}\) 不在 \(A\) 的列空间里, 只有近似解 (最小二乘); 用伪逆 \(A^+\) 求解- ⭐ 条件数大不等于矩阵大 — 条件数是 \(\|A\| \cdot \|A^{-1}\|\), 衡量的是"输入扰动被放大多少倍"; 单位阵条件数是 1
参考文件: 本节为知识结构梳理,源章节索引见仓库同级
zh/第05章 - 概率论/目录。