跳转至

第 02 章 · 矩阵 —— 知识图谱 (Knowledge Mindmap)

一句话总结: 矩阵是"能装数据也能编码变换"的双面结构 —— 一格一格的数字网格是数据容器, 一次矩阵乘法是一次线性变换。本章从性质 → 类型 → 运算 → 线性变换 → 分解五节把这两面拼齐, 为 Ch05 PCA、Ch06 神经网络层、Ch08 卷积、Ch17 Attention 备料; 承接 Ch01 §05 基变换的 P 列约定, 补上 P⁻¹ 手算与相似变换 Ã = P⁻¹ A P。

难度色标 (Legend): 🟢 入门 (L1-L2) · 🟡 进阶 (L3-L4) · 🔴 高阶 (L5-L6) · ⭐ 主干外可跳过

Ch01 回引: 本章 3 处显式回引 Ch01 §05 —— 04 节 (基变换约束线性映射的矩阵表示)、05 节 (对角化即"换到特征基下")、⭐ 进阶节 (P⁻¹ 行几何 + 协变逆变)。


Mermaid Mindmap

🌳 Ch2 章 知识图谱
├─ 01 矩阵性质 Properties
│  └─ 定义 Definition 🟢
│  │  └─ 行列数字网格 🟢
│  │  └─ A_ij 第 i 行第 j 列 🟢
│  │  └─ m x n 尺寸 🟢
│  └─ 样本-特征约定 🟢
│  │  └─ 行 = 样本 列 = 特征 🟢
│  │  └─ 与 sklearn pandas 一致 🟢
│  └─ 转置 Transpose 🟢
│  │  └─ A^T 沿对角线翻 🟢
│  │  └─ A A^T 是 m x m 方阵 🟢
│  │  └─ (AB)^T = B^T A^T 🟡
│  └─ 迹 Trace 🟢
│  │  └─ 对角元素之和 🟢
│  │  └─ tr(B) = 1+5+9 = 15 🟢
│  │  └─ 等于特征值之和 🟡
│  │  └─ 与基无关量 🟡
│  └─ 秩 Rank 🟡
│  │  └─ 独立行 (列) 数量 🟡
│  │  └─ ,] 秩 1 🟢
│  │  └─ 满秩 ⇔ 可逆 🟡
│  │  └─ 秩-零度定理<br/>rank + nullity = n 🟡
│  └─ 行列式 Determinant 🟢
│  │  └─ ad - bc 面积缩放 🟢
│  │  └─ det,] = 6 🟢
│  │  └─ 为零 ⇒ 奇异 不可逆 🟡
│  │  └─ 为负 ⇒ 定向翻转 🟡
│  │  └─ 余子式展开 (3x3+) 🟡
│  └─ 逆矩阵 Inverse 🟢
│  │  └─ A A⁻¹ = I 🟢
│  │  └─ <!-- FIX: M3 -->
│  │  └─ 2x2 手算三步 🟢
│  │  │  └─ Step1 det = ad-bc 🟢
│  │  │  └─ Step2 adj = ,] 🟢
│  │  │  └─ Step3 A⁻¹ = 1/det · adj 🟢
│  │  └─ <!-- FIX: M3 完整数字例 -->
│  │  └─ 完整数字例 P=,] 🟢
│  │  │  └─ det = 1·(-1)-1·1 = -2 🟢
│  │  │  └─ adj = ,] 🟢
│  │  │  └─ P⁻¹ = -1/2 · adj = ,] 🟢
│  │  │  └─ 验证 P·P⁻¹ = I 🟢
│  │  └─ <!-- FIX: R2 3x3 降级为备注 -->
│  │  └─ 3x3 及以上 ⭐<br/>参见 Ch03 §01 高斯消元 🔴
│  └─ <!-- FIX: R1 进阶下沉 -->
│  └─ ⭐ 条件数 Condition Number 🔴
│  │  └─ kappa = ||A|| · ||A⁻¹|| 🟡
│  │  └─ 接近 1 良态 🟡
│  │  └─ 巨大 病态 数值放大 🔴
│  └─ <!-- FIX: R1 进阶下沉 -->
│  └─ ⭐ 矩阵范数 Matrix Norm 🔴
│  │  └─ Frobenius ||A||_F 🟡
│  │  └─ ||,]||_F = sqrt(30) 🟡
│  │  └─ 谱范数 = 最大奇异值 🔴
│  └─ <!-- FIX: R1 进阶下沉 -->
│  └─ ⭐ 正定 Positive Definite 🔴
│  │  └─ x^T A x > 0 恒正 🟡
│  │  └─ 半正定 PSD ≥ 0 🟡
│  │  └─ 协方差 核矩阵 Hessian 都是 PSD 🟡
│  └─ <!-- FIX: R1 进阶下沉 -->
│  └─ ⭐ 四个基本子空间 🔴
│  │  └─ 列空间 Column Space 🟡
│  │  └─ 行空间 Row Space 🟡
│  │  └─ 零空间 Null Space 🟡
│  │  └─ 左零空间 🔴
├─ 02 矩阵类型 Types
│  └─ 方阵 Square 🟢
│  │  └─ n x n 才谈行列式 特征值 🟢
│  └─ 单位矩阵 Identity I 🟢
│  │  └─ 对角全 1 其余 0 🟢
│  │  └─ AI = IA = A 🟢
│  └─ 零矩阵 O 🟢
│  │  └─ 全 0 信息毁尽 🟢
│  └─ 对角 Diagonal 🟢
│  │  └─ 除对角外全 0 🟢
│  │  └─ 乘向量 = 逐分量缩放 🟢
│  └─ 对称 Symmetric 🟢
│  │  └─ A = A^T 🟢
│  │  └─ 特征向量两两正交 🟡
│  │  └─ 协方差矩阵天然对称 🟢
│  └─ 三角 Triangular 🟢
│  │  └─ 上/下三角 🟢
│  │  └─ det = 对角元乘积 🟢
│  │  └─ 前代 回代高效求解 🟢
│  └─ 正交 Orthogonal Q 🟡
│  │  └─ Q^T Q = I 🟡
│  │  └─ 列单位正交 🟡
│  │  └─ det = +1 (旋转) 或 -1 (反射) 🟡
│  │  └─ Ch01 §05 回引<br/>Q^T 即 Q⁻¹ 🟡
│  └─ 稀疏 vs 稠密 🟢
│  │  └─ Sparse 大多为 0 🟢
│  │  └─ 社交网络 10^6 x 10^6 🟢
│  │  └─ CSR 存储格式 🟡
│  └─ 置换 Permutation 🟢
│  │  └─ 单位矩阵行重排 🟢
│  │  └─ 每行每列一个 1 🟢
│  └─ Toeplitz 🟡
│  │  └─ 对角线常数 🟡
│  │  └─ 卷积滤波器 🟡
│  └─ 循环 Circulant 🟡
│  │  └─ 每行是上行循环移位 🟡
│  │  └─ DFT 对角化 🔴
│  └─ 复域对应 Complex 🔴
│  │  └─ Hermite A = A* 🔴
│  │  └─ 酉 U* U = I 🔴
│  │  └─ 首次切换 C 域标注 🔴
│  └─ 幂等 Idempotent 🟡
│  │  └─ A^2 = A 🟡
│  │  └─ 投影 二次不改 🟡
│  └─ 幂零 Nilpotent 🔴
│  │  └─ A^k = O 🔴
│  │  └─ ,]^2 = O 🔴
│  └─ 布尔/邻接 Boolean 🟡
│  │  └─ 01 矩阵 编码图 🟡
│  └─ Vandermonde 🔴
│  │  └─ ,...] 🔴
│  │  └─ 多项式插值 🔴
├─ 03 矩阵运算 Operations
│  └─ 加与标乘 🟢
│  │  └─ 同尺寸逐元素 🟢
│  │  └─ c·A 每格乘 c 🟢
│  └─ 矩阵-向量乘 Ax 🟢
│  │  └─ 列的加权和<br/>,](5,6) = 5·(1,3)+6·(2,4) 🟢
│  │  └─ 神经网络层 Ax + b 🟢
│  └─ 矩阵乘法 AB 🟡
│  │  └─ C_ij = Σ_k A_ik B_kj 🟡
│  │  └─ 内维必配 结果 m x p 🟡
│  │  └─ 不交换 AB ≠ BA 🟡
│  │  └─ 结合律 分配律 成立 🟡
│  │  └─ <!-- FIX: M4 完整数字算例 -->
│  │  └─ 完整数字例<br/>A=,] B=,] 🟢
│  │  │  └─ C_11 = 1·5+2·7 = 19 🟢
│  │  │  └─ C_12 = 1·6+2·8 = 22 🟢
│  │  │  └─ C_21 = 3·5+4·7 = 43 🟢
│  │  │  └─ C_22 = 3·6+4·8 = 50 🟢
│  │  │  └─ AB = ,] 🟢
│  │  │  └─ 验证不交换<br/>BA = ,] ≠ AB 🟡
│  │  └─ Ch01 §05 回引<br/>先 B 变换再 A 变换 🟡
│  └─ Hadamard 积 A ⊙ B 🟢
│  │  └─ 逐元素乘 交换 🟢
│  │  └─ gating 门控用 🟡
│  └─ 外积 u v^T 🟡
│  │  └─ 输出秩 1 矩阵 🟡
│  │  └─ SVD 的积木 🔴
│  └─ Kronecker 积 ⭐进阶提及 🔴
│  │  └─ 块结构 A ⊗ B 🔴
│  └─ 稀疏 CSR 🟡
│  │  └─ values / cols / row_offsets 🟡
│  │  └─ 跳过零 O(nnz) 🟡
│  └─ 解 Ax = b 🟢
│  │  └─ 水果价问题<br/>2a+b=5, a+3b=10 🟢
│  │  └─ 直接求逆 昂贵不稳 🟡
│  │  └─ 实际用分解 🟡
│  └─ 伪逆 A+ 🟡
│  │  └─ A+ = (A^T A)⁻¹ A^T 🟡
│  │  └─ 任意矩阵总存在 🟡
│  └─ 前代/回代 🟢
│  │  └─ Lx = b 从上往下 🟢
│  │  └─ Ux = b 从下往上 🟢
├─ 04 线性变换 Linear Transformations
│  └─ 定义 Definition 🟡
│  │  └─ 向量 → 向量 保线性 🟡
│  │  └─ 矩阵 = 变换本身 🟢
│  └─ %% FIX: M1 公理框架改为两条公理 + 一个推论
│  └─ 线性映射公理框架<br/>两条公理 + 一个推论 🟡
│  │  └─ 加性公理 Additivity (公理 1)<br/>T(u+v) = T(u)+T(v)<br/>大白话 先加再变=分别变再加<br/>反例 T(x)=x² T(1+1)=4≠T(1)+T(1)=2 🟡
│  │  └─ %% FIX: M2 齐次反例改为 T(x)=|x|
│  │  └─ 齐次性公理 Homogeneity (公理 2)<br/>T(cv) = cT(v)<br/>大白话 缩放先后可换<br/>反例 T(x)=|x| T(-1·1)=1≠-1·T(1)=-1<br/>注 |x| 保 T(0)=0 但违反齐次 更纯 🟡
│  │  └─ T(0) = 0 推论 (非独立公理)<br/>由齐次令 c=0 直接推出<br/>T(0) = T(0·v) = 0·T(v) = 0<br/>用途 平移 T(x)=x+1 T(0)=1≠0 一眼判非线性 🟡
│  └─ 列的几何意义 🟢
│  │  └─ A 的列 = 基向量落到哪 🟢
│  │  └─ i_hat → 第一列 j_hat → 第二列 🟢
│  └─ 不交换性 🟡
│  │  └─ 先旋转再平移 ≠ 先平移再旋转 🟡
│  └─ 旋转 Rotation R(θ) 🟡
│  │  └─ cos -sin / sin cos 🟡
│  │  └─ θ=90° ,] 🟢
│  │  └─ 正交 det = +1 保长度 🟡
│  └─ 缩放 Scaling 🟢
│  │  └─ 对角 S(sx, sy) 🟢
│  │  └─ s = -1 翻转分量 🟢
│  └─ 反射 Reflection 🟡
│  │  └─ 沿 x 轴 ,] 🟡
│  │  └─ det = -1 定向翻转 🟡
│  └─ 错切 Shearing 🟡
│  │  └─ Sh(k) = ,] 🟡
│  │  └─ 斜体字的来源 🟢
│  └─ %% FIX: M8 刚体变换脚注
│  └─ 刚体变换 Rigid 🟡
│  │  └─ 保距离保角度 🟡
│  │  └─ 广义刚体 = 旋转 + 反射 + 平移 🟡
│  │  └─ 脚注 严格 SE(n) 只含旋转+平移<br/>(det = +1, 保定向)<br/>广义刚体含反射 (det = ±1) 🟡
│  └─ 平移非线性 🟡
│  │  └─ 破坏 T(0) = 0 🟡
│  │  └─ 需引入仿射 🟡
│  └─ 仿射变换 Affine 🟡
│  │  └─ y = A x + t 🟡
│  │  └─ 齐次坐标 (x, 1) 升维处理 🟡
│  │  └─ 游戏引擎物体摆位 🟢
│  └─ 退化变换 Degenerate 🟡
│  │  └─ 奇异矩阵压维 🟡
│  │  └─ RGB → 灰度 信息不可恢复 🟢
│  └─ 核与像 Kernel Image 🟡
│  │  └─ Ker(T) = 零空间 🟡
│  │  └─ Im(T) = 列空间 🟡
│  └─ %% FIX: Ch01 §05 基变换回引 #1
│  └─ 基变换约束 Change of Basis 🟡
│  │  └─ P 的列 = 新基向量在旧基下的坐标 🟡
│  │  └─ v_旧 = P v_新, v_新 = P⁻¹ v_旧 🟡
│  │  └─ 相似变换 Ã = P⁻¹ A P 🔴
│  │  └─ 2x2 手算例<br/>P=,]<br/>P⁻¹=1/2·,] 🟡
│  │  └─ <!-- FIX: R2 3x3 P⁻¹ 降级为备注 -->
│  │  └─ 3x3 P⁻¹ 参见 Ch03 §01 高斯消元 🔴
│  │  └─ 同一变换 换基后矩阵不同 迹和行列式不变 🔴
│  └─ 神经网络与 Transformer 🟢
│  │  └─ 每层 = 一次 A x + b 🟢
│  │  └─ Transformer 靠一串线性变换驱动 🟢
├─ 05 矩阵分解 Decompositions
│  └─ 分解目的 Why 🟢
│  │  └─ 更快解方程 稳定求逆 🟢
│  │  └─ 找特征 压缩数据 🟢
│  └─ 高斯消元 Gaussian Elim 🟢
│  │  └─ 三种行运算 交换 缩放 加倍 🟢
│  │  └─ 目标 化为三角 🟢
│  └─ REF / RREF 🟡
│  │  └─ REF 行阶梯形 🟡
│  │  └─ RREF 主元为 1 唯一 🟡
│  └─ LU 分解 🟡
│  │  └─ A = LU 或 PLU 🟡
│  │  └─ 一次分解 多组 b 复用 🟡
│  └─ Cholesky 分解 🟡
│  │  └─ A = L L^T 仅对称正定 🟡
│  │  └─ 比 LU 快一倍 🟡
│  │  └─ 失败即非正定 🟡
│  └─ 特征值/向量 Eigen 🟡
│  │  └─ A x = λ x 只缩不转 🟡
│  │  └─ A=,] (1,0) 是 λ=3 特征向量 🟢
│  │  └─ det(A - λI) = 0 求解 🟡
│  │  └─ 对称阵 特征向量正交 特征值实 🟡
│  └─ %% FIX: Ch01 §05 基变换回引 #2
│  └─ 对角化 Diagonalisation 🟡
│  │  └─ A = P D P⁻¹ 🟡
│  │  └─ P 列 = 特征向量<br/>= 新基在旧基下坐标 (Ch01 §05) 🟡
│  │  └─ A^100 = P D^100 P⁻¹ 廉价 🟡
│  │  └─ 特征基 Eigenbasis<br/>相当于换到自然坐标系 🟡
│  └─ 迭代求特征 🔴
│  │  └─ 幂迭代 主特征 🔴
│  │  └─ QR 算法 主力 🔴
│  │  └─ 反迭代 Lanczos Arnoldi 🔴
│  └─ QR 分解 🟡
│  │  └─ A = Q R 🟡
│  │  └─ Q 正交 R 上三角 🟡
│  │  └─ Gram-Schmidt 构造 🔴
│  │  └─ 最小二乘引擎 🟡
│  └─ SVD 奇异值分解 🟡
│  │  └─ A = U Σ V^T 任意矩阵 🟡
│  │  └─ 旋转-缩放-旋转<br/>圆 → 椭圆 🟢
│  │  └─ σ1 ≥ σ2 ≥ ... 非负排序 🟡
│  │  └─ 秩 = 非零 σ 数量 🟡
│  └─ 低秩逼近 Low-rank 🟡
│  │  └─ 保留最大 k 个 σ 🟡
│  │  └─ 1000x1000 图 k=50 压缩 20 倍 🟢
│  └─ PCA 主成分分析 🟡
│  │  └─ 协方差矩阵特征分解 🟡
│  │  └─ PC1 = 方差最大方向 🟡
│  │  └─ 标准化 → 协方差 → 特征 → 投影 🟡
│  │  └─ Ch01 §05 回引<br/>主成分 = 新的正交基 🟡
│  └─ 谱定理 Spectral 🔴
│  │  └─ 对称阵必可正交对角化 🔴
│  │  └─ PCA 理论基石 🔴
│  └─ Schur 分解 🔴
│  │  └─ A = Q T Q* 不可对角化亦可 🔴
│  └─ NMF 非负分解 🔴
│  │  └─ A ≈ WH 元素 ≥ 0 🔴
│  │  └─ 主题建模可解释 🔴
├─ ⭐ 06 进阶专题 Advanced
│  └─ %% FIX: Ch01 §05 基变换回引 #3
│  └─ P⁻¹ 的行几何 🔴
│  │  └─ 每行 = 对偶基 = 该新基向量的"读数尺" 🔴
│  │  └─ 非正交基下不能用点积读坐标 🔴
│  └─ 协变 vs 逆变 🔴
│  │  └─ 协变分量随基逆变 🔴
│  │  └─ 逆变分量随基协变 🔴
│  │  └─ 张量代数入口 🔴
│  └─ 核 PCA 🔴
│  │  └─ 核函数升维 结构变线性 🔴
│  └─ Kronecker 积 A ⊗ B 🔴
│  │  └─ 块结构 (Ax)(By)^T = (A⊗B) vec(xy^T) 🔴
│  │  └─ 多线性代数 图像批处理 🔴
│  └─ 张量 vs 多维数组 🔴
│  │  └─ 深度学习 tensor = 多维数组 🔴
│  │  └─ 数学 tensor = 多重线性映射 🔴
│  └─ 矩阵函数 f(A) 🔴
│  │  └─ e^A 通过特征分解定义 🔴
│  │  └─ LTI 系统 图神经网络 🔴

学习路径建议 (Learning Roadmap)

主干路径 (10 天速通)

  1. Day 1 · 01 矩阵性质 (前半) 🟢 — 定义、转置、迹、秩; 记住 "行 = 样本, 列 = 特征" 的机器学习约定
  2. Day 2 · 01 矩阵性质 (后半) 🟡 — 行列式、逆矩阵 (手算 2×2 三步: det → adj → 1/det·adj); ⭐ 条件数、Frobenius 范数、正定、四子空间放到进阶节
  3. Day 3 · 02 矩阵类型 (基础) 🟢 — 方阵、单位、对角、对称、三角、正交、稀疏
  4. Day 4 · 02 矩阵类型 (扩展) 🟡 — 置换、Toeplitz、循环、Hermite、幂等、幂零
  5. Day 5 · 03 矩阵运算 (基础) 🟢 — 加/乘、矩阵-向量乘、外积; 手算 \(A\mathbf{x} + \mathbf{b}\)
  6. Day 6 · 03 矩阵运算 (进阶) 🟡 — 矩阵乘法性质 (手算 \(A B\) 完整算例)、Hadamard、CSR、解 \(A\mathbf{x} = \mathbf{b}\)、伪逆
  7. Day 7 · 04 线性变换 (核心) 🟡 — 线性映射两条公理 + 一个推论、列的几何意义、旋转/缩放/反射/错切
  8. Day 8 · 04 线性变换 (扩展) 🟡 — 平移非线性、仿射 + 齐次坐标、基变换约束、核与像
  9. Day 9 · 05 矩阵分解 (三角家族) 🟡 — 高斯消元、REF/RREF、LU、Cholesky
  10. Day 10 · 05 矩阵分解 (谱家族) 🟡 — 特征值/向量、对角化 \(A = PDP^{-1}\)、QR、SVD、低秩、PCA

进阶路径 (⭐ 可跳过, 面向研究/深造)

  • ⭐ 01 节内进阶: 条件数、矩阵范数、正定 (PSD)、四个基本子空间 —— 数值稳定性与最优化的入口
  • ⭐ 06 进阶专题 🔴 — P⁻¹ 的行几何 (对偶基) / 协变逆变 / 核 PCA / Kronecker 积 / 张量 vs 多维数组 / 矩阵函数
  • 服务对象: Ch03 微积分中的雅可比矩阵、Ch12 图神经网络的图 Laplacian 谱分解、Ch17 Attention 的 QK^T 对偶视角

依赖关系

  • 02 依赖 01: 讲"对称矩阵特征向量正交"前, 必须先有"秩、行列式、特征值"的定义 (01)
  • 03 依赖 01+02: 矩阵乘法的复杂度分析要用秩 (01) 和稀疏结构 (02)
  • 04 综合 01+02+03: 线性变换 = 矩阵 (01) × 向量 (Ch01), 特殊变换类型 = 特殊矩阵 (02), 变换合成 = 乘法 (03)
  • 05 综合 前四节: 分解的目标是把一般矩阵拆成 02 里的特殊类型 (三角、对角、正交); 依赖 04 的"变换视角"理解 SVD 几何
  • ⭐ 06 依赖 04+05: 对偶基必须先懂基变换 (04); Kronecker 与张量必须先懂 SVD (05)

与 Ch01 的三处显式回引

  1. 04 节 · 基变换约束 — 引用 Ch01 §05 的 "\(P\) 的列 = 新基向量在旧基下的坐标" 约定, 给出 2×2 数字例 \(P=[[1,1],[1,-1]]\), \(P^{-1}=\tfrac{1}{2}[[1,1],[1,-1]]\); 3×3 及以上参见 Ch03 §01 高斯消元
  2. 05 节 · 对角化 — 强调 \(A = PDP^{-1}\) 里的 \(P\) 就是 Ch01 §05 的基变换矩阵, 只是这次新基选成了特征向量
  3. ⭐ 06 · P⁻¹ 的行几何 — 补 Ch01 遗留的 "\(P^{-1}\) 每一行 = 对偶基" 断层, 说清非正交基下为什么不能用点积读坐标

与 Ch03+ 的正向依赖 (本章为后续备料)

  • Ch03 微积分 — 雅可比 = 局部线性变换 (04); 梯度 = 线性泛函 (⭐ 06); 3×3 及以上矩阵逆走高斯消元 (Ch03 §01)
  • Ch04 统计 — 协方差矩阵 (01 ⭐ 正定) → PCA (05)
  • Ch05 概率 — 多元高斯的精度矩阵 = 协方差的逆 (01); 转移矩阵 (02 随机矩阵)
  • Ch06 机器学习 — 最小二乘 = 伪逆 (03); 岭回归 = 正定正则 (01 ⭐)
  • Ch08 视觉 — 卷积 = Toeplitz / 循环矩阵 (02)
  • Ch12 GNN — 邻接矩阵 (02) → 图 Laplacian 谱分解 (05)
  • Ch17 Attention — QK^T 用矩阵乘 (03); 多头 = 分块矩阵 (⭐ 06)

常见误区提醒

  • 迹只对方阵有定义 — 长方矩阵没有迹, \(2 \times 3\) 矩阵不能求迹
  • 秩 = 独立行数 = 独立列数 — 两个视角同一个数, 不要以为行秩和列秩不同
  • 奇异矩阵不是"很小的矩阵" — 是行列式为 0、不可逆、把空间压维的矩阵; \(2 \times 2\) 也可能奇异
  • 矩阵乘法不满足交换律 — \(AB \neq BA\) 是常态; 拿 $$ A=\begin{pmatrix}1&2\3&4\end{pmatrix}, B=\begin{pmatrix}5&6\7&8\end{pmatrix} $$ 手算, $$ AB=\begin{pmatrix}19&22\43&50\end{pmatrix} $$, $$ BA=\begin{pmatrix}23&34\31&46\end{pmatrix} $$, 明显不等
  • 平移不是线性变换 — 它挪动了原点, 破坏 \(T(\mathbf{0}) = \mathbf{0}\); 想统一处理必须用仿射 + 齐次坐标
  • 线性映射公理框架 = 两条公理 + 一个推论 — 加性 + 齐次性是两条独立公理; \(T(\mathbf{0}) = \mathbf{0}\) 是"齐次令 \(c=0\)"的直接推论, 不是第三条独立公理。判定线性只需查加性 + 齐次两条; \(T(\mathbf{0}) = \mathbf{0}\) 常用来快速排除非线性 (如平移 \(T(x)=x+1\) 直接被判掉), 但它单独成立不足以说明线性
  • 齐次性反例首选 \(T(x)=|x|\) — 因为 \(T(0)=|0|=0\) 保住 \(T(\mathbf{0})=\mathbf{0}\), 却在 \(c=-1\) 时露馅: \(T(-1 \cdot 1)=1 \neq -1 \cdot T(1)=-1\); 比 \(T(x)=x+1\) 更纯 (后者同时违反齐次与 \(T(0)=0\))
  • ⭐ 对称 \(\neq\) 正定 — 对称只要求 \(A = A^T\), 正定还要 \(\mathbf{x}^T A \mathbf{x} > 0\); 对称阵可以有负特征值
  • 刚体变换的两种定义 — 广义"刚体"含旋转 + 反射 + 平移 (保距离保角度, \(\det = \pm 1\)); 严格 SE(n) (Special Euclidean Group) 只含旋转 + 平移 (\(\det = +1\), 保定向), 排除反射。工程上说"刚体"通常指广义, 机器人学/图形学动力学说"刚体运动"通常指 SE(n)
  • 基变换 \(P\) 方向 (Ch01 §05 复述) — \(P\) 的列是新基向量在旧基下的坐标, \(\mathbf{v}_{旧} = P\mathbf{v}_{新}\), \(\mathbf{v}_{新} = P^{-1}\mathbf{v}_{旧}\); 相似变换写 \(\tilde A = P^{-1} A P\), 不允许写反
  • 2×2 求逆三步 — Step 1 算 \(\det = ad-bc\); Step 2 写伴随 $$ \operatorname{adj} = \begin{pmatrix}d & -b\-c & a\end{pmatrix} $$ (对角对换, 副对角取负); Step 3 \(A^{-1} = \frac{1}{\det} \cdot \operatorname{adj}\)。\(3 \times 3\) 及以上不建议手算伴随, 用高斯消元 (Ch03 §01)
  • 对角化 \(A = PDP^{-1}\) 的 \(P\) 就是基变换矩阵 — 只不过新基特意选成了 \(A\) 的特征向量; 这就是"特征基"名字的来源
  • 不是每个方阵都能对角化 — 缺少足够线性无关特征向量的矩阵 (如 $$ \begin{pmatrix}1&1\0&1\end{pmatrix} $$) 无法对角化; 但 Schur 分解总能做
  • SVD 覆盖比特征分解更广 — 特征分解只对方阵有效, SVD 对任意 \(m \times n\) 矩阵都有效, 且奇异值必然非负实数
  • PCA 之前必须标准化 — 不标准化, 单位大的特征 (公里) 会盖过单位小的特征 (厘米), 主成分变成度量单位偏差
  • Q^T = Q^{-1} 只对正交矩阵成立 — 一般矩阵别乱写; 求逆要走 LU / 高斯-约当
  • 稀疏矩阵不是"存零少的矩阵" — 是结构上大多数元素为零, 且用 CSR/CSC 等专用格式存储的矩阵; 光是含很多零但用稠密数组存, 不叫稀疏
  • Ax = b 不总有解 — 若 \(\mathbf{b}\) 不在 \(A\) 的列空间里, 只有近似解 (最小二乘); 用伪逆 \(A^+\) 求解
  • ⭐ 条件数大不等于矩阵大 — 条件数是 \(\|A\| \cdot \|A^{-1}\|\), 衡量的是"输入扰动被放大多少倍"; 单位阵条件数是 1


参考文件: 本节为知识结构梳理,源章节索引见仓库同级 zh/第05章 - 概率论/ 目录。