术语索引 (Index)¶

按字母表顺序排列的关键词到章节映射，便于快速定位。数字条目排在最前，中文条目按拼音排序，英文条目按 A-Z 排列。

版本: v1.0 (2026-07-31) — 覆盖 25 章全部关键术语 (新增 Ch21 对齐 / Ch22 Eval / Ch23 Agent / Ch24 数值优化 / Ch25 面试)

使用说明：每条形如 术语 → 第 X 章 [§小节]. 一个术语出现在多章时，主参考章节加粗。

数字与符号 (Numerics & Symbols)¶

0/1 损失 (0/1 loss) → 第 6 章
1×1 卷积 (1×1 Convolution) → 第 8 章
2-SAT → 第 14 章
3D 卷积 (3D Convolution) → 第 8 章，第 10 章
8 位量化 (INT8 Quantization) → 第 17 章
16 位浮点 (FP16 / BF16) → 第 16 章，第 17 章
32 位浮点 (FP32) → 第 16 章
α-β 剪枝 (Alpha-Beta Pruning) → 第 11 章
ε-贪心 (ε-greedy) → 第 11 章
ℓ1 正则 (L1 Regularization) → 第 6 章
ℓ2 正则 (L2 Regularization) → 第 6 章

A¶

A/B 测试 (A/B Testing) → 第 4 章，第 18 章
A* 算法 (A* Algorithm) → 第 11 章，第 14 章
AdaGrad → 第 6 章，第 24 章
Adam 优化器 (Adam Optimizer) → 第 6 章，第 24 章
AGI (通用人工智能) → 第 20 章
AI Agent (智能体) → 第 23 章
AI 对齐 (AI Alignment) → 第 21 章
AI 推理 (AI Inference) → 第 17 章
激活函数 (Activation Function) → 第 6 章
注意力机制 (Attention Mechanism) → 第 6 章，第 7 章，第 10 章
自动微分 (Autodiff / Automatic Differentiation) → 第 3 章，第 16 章
自编码器 (Autoencoder) → 第 6 章，第 10 章
AUROC / AUC → 第 4 章，第 6 章，第 22 章
对抗样本 (Adversarial Examples) → 第 21 章
主动学习 (Active Learning) → 第 6 章，第 18 章
Adapter (适配器) → 第 7 章，第 20 章
算子融合 (Operator Fusion) → 第 16 章，第 17 章
异步 SGD (Async SGD) → 第 18 章

B¶

BFS (广度优先搜索) → 第 14 章
B 树 (B-Tree) → 第 14 章
Bagging → 第 6 章
BatchNorm (批归一化) → 第 6 章
贝叶斯定理 (Bayes' Theorem) → 第 5 章
贝叶斯网络 (Bayesian Network) → 第 5 章
贝叶斯优化 (Bayesian Optimization) → 第 6 章，第 24 章
束搜索 (Beam Search) → 第 7 章，第 17 章
BERT → 第 7 章，第 10 章
Bias-Variance 权衡 → 第 4 章，第 6 章
二叉搜索树 (BST) → 第 14 章
二分查找 (Binary Search) → 第 14 章
Bloom 过滤器 (Bloom Filter) → 第 14 章，第 15 章
Boosting → 第 6 章
Bootstrap (自助法) → 第 4 章
反向传播 (Backpropagation) → 第 6 章，第 3 章
BLEU → 第 7 章，第 22 章
BM25 → 第 7 章，第 23 章

C¶

CAP 定理 (CAP Theorem) → 第 13 章，第 15 章
CDN (内容分发网络) → 第 15 章
CI/CD (持续集成/持续交付) → 第 15 章
CLIP → 第 10 章，第 8 章
CNN (卷积神经网络) → 第 8 章
CPU 缓存 (CPU Cache) → 第 13 章，第 16 章
CRDT → 第 15 章
CUDA → 第 16 章，第 17 章
CUDA Graph → 第 16 章，第 17 章
Cache 一致性 (Cache Coherence) → 第 13 章，第 16 章
Chain-of-Thought (思维链，CoT) → 第 20 章，第 23 章
超参数搜索 (Hyperparameter Search) → 第 6 章，第 18 章
Chunking (分块) → 第 23 章
传递闭包 (Transitive Closure) → 第 14 章
稀疏矩阵 (Sparse Matrix) → 第 2 章，第 16 章
Contrastive Learning (对比学习) → 第 10 章，第 20 章
Copilot → 第 19 章，第 23 章
CoT 蒸馏 (CoT Distillation) → 第 20 章
CTC 损失 (CTC Loss) → 第 9 章

D¶

DAG (有向无环图) → 第 12 章，第 14 章
DBSCAN → 第 6 章
DDP (分布式数据并行) → 第 18 章
DDPG → 第 11 章
数据结构 (Data Structure) → 第 14 章
数据并行 (Data Parallelism) → 第 18 章
数据增强 (Data Augmentation) → 第 6 章，第 8 章，第 9 章
DeepSeek → 第 20 章
DFS (深度优先搜索) → 第 14 章
DHT (分布式哈希表) → 第 15 章
Diffusion Model (扩散模型) → 第 8 章，第 10 章，第 20 章
DPO (直接偏好优化) → 第 20 章，第 21 章
动态规划 (Dynamic Programming) → 第 14 章，第 11 章
动态图 (Dynamic Graph) → 第 12 章
Dropout → 第 6 章
DSP (数字信号处理) → 第 9 章
对偶问题 (Dual Problem) → 第 24 章
多头注意力 (Multi-Head Attention) → 第 7 章
多模态学习 (Multimodal Learning) → 第 10 章

E¶

EM 算法 (Expectation-Maximization) → 第 5 章，第 6 章
Embedding (嵌入) → 第 7 章，第 10 章，第 12 章
梯度爆炸 (Gradient Explosion) → 第 6 章
端到端学习 (End-to-End Learning) → 第 6 章，第 9 章
Encoder-Decoder (编码器-解码器) → 第 7 章，第 10 章
Entropy (熵) → 第 5 章，第 6 章
Environment (强化学习环境) → 第 11 章
等距映射 (Isometric Mapping) → 第 2 章
Evaluation Harness (评测框架) → 第 22 章
eBPF → 第 13 章，第 15 章

F¶

F1 分数 (F1 Score) → 第 4 章，第 6 章，第 22 章
FFT (快速傅里叶变换) → 第 9 章，第 24 章
Few-Shot Learning → 第 6 章，第 20 章
傅里叶变换 (Fourier Transform) → 第 3 章，第 9 章
前缀树 (Trie) → 第 14 章
Flash Attention → 第 17 章，第 20 章
Flash Decoding → 第 17 章
浮点误差 (Floating-Point Error) → 第 24 章
FLOP (浮点运算数) → 第 16 章，第 17 章
FLoPs 计算 → 第 6 章，第 17 章
Function Calling (函数调用) → 第 23 章

G¶

GAN (生成对抗网络) → 第 6 章，第 8 章
GAT (图注意力网络) → 第 12 章
GCN (图卷积网络) → 第 12 章
Gemini → 第 10 章，第 20 章
Gemma → 第 20 章
广义线性模型 (GLM) → 第 4 章，第 6 章
图神经网络 (GNN) → 第 12 章
梯度 (Gradient) → 第 3 章，第 6 章，第 24 章
梯度检查点 (Gradient Checkpointing) → 第 17 章，第 18 章
梯度下降 (Gradient Descent) → 第 3 章，第 6 章，第 24 章
梯度累积 (Gradient Accumulation) → 第 18 章
贪心算法 (Greedy Algorithm) → 第 14 章
GPT → 第 7 章，第 20 章
GPU 编程 (GPU Programming) → 第 16 章
GraphSAGE → 第 12 章
GroupNorm → 第 6 章
Guardrails (防护栏) → 第 21 章，第 23 章

H¶

HBM (高带宽内存) → 第 16 章，第 17 章
哈希表 (Hash Table) → 第 14 章
HDFS → 第 15 章
黑塞矩阵 (Hessian Matrix) → 第 3 章，第 24 章
Hindsight Experience Replay → 第 11 章
HNSW → 第 14 章，第 23 章
Hyena → 第 20 章
HuggingFace → 第 15 章，第 19 章

I¶

IL (模仿学习) → 第 11 章
Imagen → 第 8 章，第 10 章
Importance Sampling (重要性采样) → 第 5 章，第 11 章
In-Context Learning (上下文学习) → 第 20 章
信息瓶颈 (Information Bottleneck) → 第 6 章
信息增益 (Information Gain) → 第 5 章，第 6 章
积分 (Integral) → 第 3 章
INT8 推理 → 第 17 章
IoU (交并比) → 第 8 章，第 22 章
迭代法 (Iterative Method) → 第 24 章

J¶

Jacobi 迭代 → 第 24 章
雅可比矩阵 (Jacobian Matrix) → 第 3 章
JAX → 第 16 章，第 18 章
JPEG → 第 8 章
JSD (Jensen-Shannon 散度) → 第 5 章
Judge Model (评判模型) → 第 22 章

K¶

K-Means → 第 6 章
KNN (K 近邻) → 第 6 章
卡尔曼滤波 (Kalman Filter) → 第 11 章
KL 散度 (KL Divergence) → 第 5 章，第 6 章
Kubernetes → 第 15 章，第 18 章
KV Cache → 第 17 章，第 20 章
Kernel Trick (核技巧) → 第 6 章

L¶

Lagrange 乘子 (Lagrange Multiplier) → 第 3 章，第 24 章
LangChain → 第 23 章
LayerNorm → 第 6 章，第 7 章
LDA (线性判别分析) → 第 6 章
LLaMA → 第 20 章
LLM Evaluation (大模型评测) → 第 22 章
链表 (Linked List) → 第 14 章
量化 (Quantization) → 第 17 章，第 20 章
线性代数 (Linear Algebra) → 第 1 章，第 2 章
线性回归 (Linear Regression) → 第 4 章，第 6 章
LoRA → 第 20 章，第 7 章
Logistic 回归 (Logistic Regression) → 第 4 章，第 6 章
LSTM → 第 6 章，第 7 章，第 9 章
Lyapunov 稳定性 → 第 11 章

M¶

MAP (最大后验概率) → 第 5 章
MCMC (马尔可夫链蒙特卡洛) → 第 5 章，第 24 章
MCP (Model Context Protocol) → 第 23 章
MoE (混合专家) → 第 20 章，第 17 章
马尔可夫链 (Markov Chain) → 第 5 章，第 11 章
矩阵 (Matrix) → 第 2 章
矩阵求导 (Matrix Calculus) → 第 2 章，第 3 章
矩阵分解 (Matrix Factorization) → 第 2 章，第 6 章
Mean Squared Error (MSE) → 第 4 章，第 6 章
Meta-Learning (元学习) → 第 6 章，第 20 章
模型并行 (Model Parallelism) → 第 18 章
模型压缩 (Model Compression) → 第 17 章
蒙特卡洛 (Monte Carlo) → 第 5 章，第 11 章，第 24 章
MSE (均方误差) → 第 4 章，第 6 章
微服务 (Microservices) → 第 15 章
面试准备 (Interview Prep) → 第 25 章

N¶

NCE (噪声对比估计) → 第 7 章
NER (命名实体识别) → 第 7 章
牛顿法 (Newton's Method) → 第 3 章，第 24 章
NeRF → 第 8 章
NCCL → 第 16 章，第 18 章
Norm (范数) → 第 1 章，第 2 章
Normalization (归一化) → 第 6 章
NoSQL → 第 15 章
NP-完全 (NP-Complete) → 第 14 章
数值稳定性 (Numerical Stability) → 第 24 章

O¶

观测空间 (Observation Space) → 第 11 章
On-policy / Off-policy → 第 11 章
OpenAI Gym → 第 11 章
优化 (Optimization) → 第 6 章，第 24 章
ORB / SIFT → 第 8 章
过拟合 (Overfitting) → 第 4 章，第 6 章
算子调度 (Operator Scheduling) → 第 17 章

P¶

P vs NP → 第 14 章
PageRank → 第 12 章
PCA (主成分分析) → 第 2 章，第 4 章，第 6 章
Perceptron (感知机) → 第 6 章
PID 控制 → 第 11 章
管道并行 (Pipeline Parallelism) → 第 18 章
PPO (近端策略优化) → 第 11 章，第 21 章
Precision-Recall (精确率-召回率) → 第 4 章，第 22 章
Prompt Engineering (提示工程) → 第 20 章，第 23 章
产品级软件工程 (Production Engineering) → 第 15 章
概率分布 (Probability Distribution) → 第 5 章
PyTorch → 第 6 章，第 16 章，第 18 章

Q¶

Q-Learning → 第 11 章
QA 系统 (Question Answering) → 第 7 章，第 23 章
QAT (量化感知训练) → 第 17 章
QLoRA → 第 20 章
QR 分解 (QR Decomposition) → 第 2 章，第 24 章
队列 (Queue) → 第 14 章

R¶

RAG (检索增强生成) → 第 23 章，第 19 章
随机森林 (Random Forest) → 第 6 章
随机变量 (Random Variable) → 第 5 章
回归 (Regression) → 第 4 章，第 6 章
正则化 (Regularization) → 第 4 章，第 6 章
强化学习 (Reinforcement Learning) → 第 11 章
红黑树 (Red-Black Tree) → 第 14 章
重采样 (Resampling) → 第 4 章
ResNet → 第 8 章
RLHF → 第 21 章，第 20 章
RNN (循环神经网络) → 第 6 章，第 7 章
ROC 曲线 (ROC Curve) → 第 4 章，第 22 章
RoPE (旋转位置编码) → 第 7 章，第 20 章

S¶

SAM (Segment Anything) → 第 8 章
样本复杂度 (Sample Complexity) → 第 6 章
SAT / Sat 求解 → 第 14 章
SGD (随机梯度下降) → 第 6 章，第 24 章
SIMD → 第 16 章，第 13 章
SLAM → 第 8 章，第 11 章
Softmax → 第 6 章，第 7 章
Sora → 第 10 章，第 20 章
稀疏性 (Sparsity) → 第 17 章，第 20 章
谱聚类 (Spectral Clustering) → 第 6 章，第 12 章
SQL → 第 15 章
栈 (Stack) → 第 14 章
State Space Model → 第 20 章
统计学 (Statistics) → 第 4 章
随机过程 (Stochastic Process) → 第 5 章
SVD (奇异值分解) → 第 2 章，第 24 章
SVM (支持向量机) → 第 6 章，第 24 章
系统设计 (System Design) → 第 18 章，第 25 章

T¶

Taylor 展开 (Taylor Expansion) → 第 3 章，第 24 章
张量 (Tensor) → 第 2 章，第 16 章
张量并行 (Tensor Parallelism) → 第 18 章
Test-Time Compute → 第 20 章，第 22 章
TF-IDF → 第 7 章
Thompson 采样 → 第 11 章
TPU → 第 16 章
迁移学习 (Transfer Learning) → 第 6 章，第 20 章
Transformer → 第 7 章，第 10 章，第 20 章
拓扑排序 (Topological Sort) → 第 14 章
训练-推理差异 (Train-Serve Skew) → 第 18 章
树 (Tree) → 第 14 章
Triton → 第 16 章
Trust Region → 第 11 章，第 24 章

U¶

U-Net → 第 8 章
UCB (置信上界) → 第 11 章
欠拟合 (Underfitting) → 第 4 章，第 6 章
无监督学习 (Unsupervised Learning) → 第 6 章
Utility Function (效用函数) → 第 11 章，第 21 章

V¶

VAE (变分自编码器) → 第 6 章，第 8 章，第 10 章
变分推断 (Variational Inference) → 第 5 章，第 6 章
向量 (Vector) → 第 1 章
向量空间 (Vector Space) → 第 1 章，第 2 章
向量数据库 (Vector Database) → 第 14 章，第 23 章
ViT (Vision Transformer) → 第 7 章，第 8 章
VLM (视觉语言模型) → 第 10 章
VQA (视觉问答) → 第 10 章，第 22 章

W¶

Wasserstein 距离 → 第 5 章，第 6 章
Weight Decay (权重衰减) → 第 6 章
Whisper → 第 9 章，第 10 章
Word2Vec → 第 7 章
WER (词错误率) → 第 9 章，第 22 章

X-Y-Z¶

XLA → 第 16 章，第 18 章
XGBoost → 第 6 章
Y 组合子 → 第 13 章
YOLO → 第 8 章
Zero Redundancy Optimizer (ZeRO) → 第 18 章
Zero-Shot 学习 → 第 6 章，第 20 章
正态分布 (Normal Distribution) → 第 5 章
主成分分析 (PCA) → 第 2 章，第 6 章
注意力 (Attention) → 第 7 章，第 10 章
自回归 (Autoregressive) → 第 7 章，第 20 章
自监督 (Self-Supervised) → 第 6 章，第 10 章
组归一化 (GroupNorm) → 第 6 章
最大似然 (MLE) → 第 4 章，第 5 章
凸优化 (Convex Optimization) → 第 24 章
凸函数 (Convex Function) → 第 3 章，第 24 章

附录：高频缩写速查¶

缩写	全称	主参考章节
AGI	Artificial General Intelligence	第 20 章
API	Application Programming Interface	第 15 章
BFS	Breadth-First Search	第 14 章
CV	Computer Vision	第 8 章
DAG	Directed Acyclic Graph	第 12 章
DP	Dynamic Programming	第 14 章
DPO	Direct Preference Optimization	第 21 章
GNN	Graph Neural Network	第 12 章
KV	Key-Value (Cache)	第 17 章
LLM	Large Language Model	第 20 章
MoE	Mixture of Experts	第 20 章
MSE	Mean Squared Error	第 6 章
NLP	Natural Language Processing	第 7 章
PCA	Principal Component Analysis	第 2 章
PPO	Proximal Policy Optimization	第 11 章
RAG	Retrieval-Augmented Generation	第 23 章
RL	Reinforcement Learning	第 11 章
RLHF	RL from Human Feedback	第 21 章
SGD	Stochastic Gradient Descent	第 6 章
SVD	Singular Value Decomposition	第 2 章
SVM	Support Vector Machine	第 6 章
VAE	Variational Autoencoder	第 6 章
ViT	Vision Transformer	第 8 章
VLM	Vision-Language Model	第 10 章
ZeRO	Zero Redundancy Optimizer	第 18 章

索引维护：若新增术语请保持字母序；中英对照条目以中文主，英文括注。全书统一遵循 v1.1 中英文空格与全角标点规范。