概念词汇表：J¶
本页整理拼音首字母为 J 的中文概念词条。词条正文由单词源文件 include 生成。
间隔(margin)¶
- 含义: classification boundary 和离它最近的数据案例之间留下的安全余量。在基于边界的分类语境里，它常被读成：在多个候选 boundary 中，要让最近点到 boundary 的最小距离尽量变大。
- 为什么重要: 同一批数据可能有多条 boundary 都能分开，只看是否分开并不足以判断哪条更稳定。margin 可以帮助读者检查 boundary 是否过度贴近某一侧 class，以及 boundary 附近的小扰动是否容易改变 prediction。
- 相关概念:
决策边界(decision boundary),分类(classification),超参数(hyperparameter) - 中心 Section:
P4-13.1 - 出现 Section:
P4-13.1
假阴性¶
- 含义：假阴性是实际为阳性的案例被模型或规则判断为阴性的错误。例如需要复核的风险案例被当成“不需要复核”，就是 false negative。
- 为什么重要：当假阴性的成本很高时，阈值设得太高可能会漏掉太多风险案例。这个概念帮助区分漏判成本和误报成本，并判断复核队列应该放宽还是收窄。
- 相关概念：
假阳性，错误成本，阈值，召回率 - 核心 Section：
P3-9.12 - 出现 Section：
P3-9.12,P4-8.1
假阳性¶
- 含义：假阳性是实际为阴性的案例被模型或规则判断为阳性的错误。例如不需要复核的案例被放进复核队列，就是 false positive。
- 为什么重要：当假阳性的成本很高时，阈值设得太低可能会增加人工复核负担或不必要的行动成本。这个概念说明，减少漏判和减少误报往往对应不同的运营选择。
- 相关概念：
假阴性，错误成本，阈值，精确率 - 核心 Section：
P3-9.12 - 出现 Section：
P3-9.12,P4-6.4,P4-8.1
激活函数¶
- 含义：激活函数会在中间分数或加权和传给下一层或输出前，对它进行变换。它引入非线性反应，而不是把简单线性组合原样传下去。
- 为什么重要：如果只反复做线性组合，深层网络的表达力不会增加太多。激活函数让层能够形成更复杂的决策边界和表示，同时也影响梯度流动和训练稳定性。它解释了深度网络为什么既需要堆叠层，也需要非线性反应曲线。
- 相关概念：
线性组合，激活值，隐藏层 - 中心 Section：
P5-1.2 - 出现 Section：
P5-3.1,P5-3.2,P5-3.3,P5-3.4,P5-3.5,P5-3.6
监督学习¶
- 含义: 监督学习是在带有输入和正确标签的样本上学习映射关系的机器学习问题。模型的目标是把新输入映射到合适的目标输出。
- 为什么重要: 分类和回归等常见问题都属于监督学习。理解这个概念，才能区分标签、目标、训练数据、验证数据和测试数据的角色。
- 相关概念:
模型输入(model input),监督学习标签(supervised learning label),目标(target),分类(classification),回归(regression) - 首次说明于:
P1-8.1 - 出现 Section:
P1-3.2,P1-8.1,P4-index,P4-2.1,P4-8.1,P4-10.1,P4-11.1,P4-12.1,P4-13.1,P4-14.1,P4-15.1,P4-16.1,P4-2.2,P4-2.3
监督学习标签(supervised learning label)¶
- 含义：监督学习标签是为当前任务附加到数据案例上的目标答案或目标输出。它定义模型应当预测什么，例如类别名或数值目标。
- 为什么重要：监督学习标签定义监督学习目标，因此标签定义改变时，任务和评估也会改变。模糊或不一致的标签会在训练前就限制模型质量。
- 相关概念：
样本(sample)，数据(data)，模型输出(model output)，监督学习(supervised learning)，目标(target)，任务定义(task definition) - 中心 Section：
P1-4.2 - 出现 Section:
P1-2.1,P4-index,P1-3.2,P1-8.1,P2-12.1,P2-12.2,P2-15.2,P3-3.1,P3-4.1,P3-4.2,P3-5.7,P3-8.6,P3-9.9,P3-9.10,P4-1.2,P4-2.1,P4-2.2,P4-2.3,P4-6.2,P4-6.4,P4-7.1,P4-12.1
奖励¶
- 含义: 奖励是在强化学习中，强化学习智能体采取行动后从环境返回的反馈信号。它表示当前行动结果在任务目标上有多好或多坏。
- 为什么重要: 奖励不是监督学习里的正确答案标签。它通常在行动之后出现，并通过长期结果影响策略调整。
- 相关概念:
强化学习(reinforcement learning),行动(action),智能体状态(state),强化学习策略(reinforcement learning policy) - 首次说明于:
P1-8.3 - 出现 Section:
P1-5.1,P4-index,P4-2.3,P4-19.1,P4-19.2,P4-19.3,P4-19.5,P4-summary
奖励设计(reward design)¶
- 含义: reward design 是用 reward function 和约束条件定义强化学习 强化学习智能体到底应该把什么看成做得好。它不是单纯实现一个数字，而是在定义系统目标。
- 为什么重要: 如果 reward 只是粗糙代替真实目标，强化学习智能体可能把数字抬高，却错过人的意图。因此 reward design 是检查 reward hacking、安全性和部署风险的起点。
- 相关概念:
奖励(reward),真实目标(true objective),奖励黑客(reward hacking),代理目标(proxy target) - 核心 Section:
P4-19.3 - 出现 Section:
reward hacking¶
- 含义: reward hacking 指模型或强化学习智能体 按字面优化 reward function，却错过人真正想要的意义，只把数字抬高的现象。
- 为什么重要: 强化学习会直接最大化 reward，所以 reward 和真实目标一旦错位，这个错位也可能被积极优化。这个概念帮助读者分开
分数上升了和目标达成了。 - 相关概念:
奖励设计(reward design),真实目标(true objective),代理目标(proxy target),AI 对齐(AI alignment) - 核心 Section:
P4-19.3 - 出现 Section:
P4-19.4
价值型强化学习(value-based reinforcement learning)¶
- 含义: 价值型强化学习会为状态或状态-行动组合学习长期回报的预期值，再用这些值来选择更好的行动。它不是先直接写出 policy，而是先学习
这个选择从长期看有多好。 - 为什么重要: 这类算法可以先从状态或状态-行动组合的长期回报价值估计连起来读。这个概念也帮助读者区分 value-based reinforcement learning 与 policy-based reinforcement learning：前者先看值，后者更直接地调整 policy。
- 相关概念:
强化学习(reinforcement learning),强化学习策略(reinforcement learning policy),奖励(reward),策略型强化学习(policy-based reinforcement learning) - 核心 Section:
P4-19.1 - 出现 Section:
P4-19.4,P4-19.5
交叉验证(cross-validation)¶
- 含义：交叉验证是在已有数据中多次拆分，并在不同验证部分上反复评估模型或设置的方法。它常用于数据较小，或者一次拆分结果可能受偶然因素影响很大的情况。
- 为什么重要：如果只看一次 validation score 来选模型，结果可能被某一次拆分的偶然性带偏。交叉验证通过多次 validation 让比较更谨慎，但它并不是完全替代最终 test 检查的魔法。
- 相关概念：
验证数据，测试数据，模型选择，泛化 - 核心 Section：
P4-4.2 - 出现 Section：
P4-4.2,P4-5.2,P4-8.1,P4-9.1,P4-9.2,P4-9.3
交叉熵(cross-entropy)¶
- 含义: 交叉熵是一种概率型损失。模型给正确答案的概率越低，损失就越大。它常用于分类任务和下一 token 预测。
- 为什么重要: 它不只看排第一的答案是否正确，还会看模型到底给正确候选分配了多少概率。这个概念能把分类损失、softmax 输出和 LLM 的 next-token loss 连到同一条线索上。
- 相关概念:
损失函数(loss function),softmax 函数(softmax),对数损失(log loss),下一词元预测(next-token prediction) - 核心 Section:
P5-4.2 - 出现 Section:
P5-4.1
卷积¶
- 含义: 卷积是让小滤波器在输入上滑动，并在每个位置计算局部模式响应的运算。
- 为什么重要: 卷积是 CNN 读取局部视觉模式的核心运算，解释特征图以及同一检测器如何应用到图像多个位置。
- 相关概念:
CNN，卷积神经网络,池化,特征图 - 核心 Section:
P5-11.2
决策边界(decision boundary)¶
- 含义：decision boundary 是分类模型在 input space 中分开不同 class 区域的标准线、标准面，或更高维的标准。在 logistic regression 中，通常可以读成 linear score \(z\) 等于分类标准的位置。
- 为什么重要：有了 decision boundary，才能说明某个输入为什么被放到某个 class，也能说明边界附近案例为什么常被留作 review 对象。threshold 改变时，它还帮助我们把 model score、运营标准和实际 class 区域分开读取。
- 相关概念：
逻辑回归(logistic regression),阈值(threshold),分类(classification),超平面(hyperplane) - 中心 Section：
P4-11.2 - 出现 Section：
P4-11.3,P5-1.2
加权和(weighted sum)¶
- 含义：加权和是把每个输入分别乘上自己的权重，再把结果加成一个值的计算。例如 \(x_1w_1 + x_2w_2\) 会用不同强度反映两个输入，并把它们折成一个分数。
- 为什么重要：感知机、线性层、矩阵乘法、attention 分数等很多 AI 模型内部计算都会反复使用这种结构。这个概念能帮助读者看清：权重不只是拿来相乘的数字，而是控制某个输入被反映得多强的值。
- 相关概念：
权重(weight),线性组合(linear combination),矩阵乘法(matrix multiplication),激活函数(activation function) - 中心 Section：
P2-3.3 - 出现 Section：
P5-1.1,P5-1.2
集成(ensemble)¶
- 含义：集成是把多个模型的预测合成一个最终判断的方法。它可以通过平均、投票或顺序修正，让结果比单个模型更稳定或更强。
- 为什么重要：随机森林、bagging、梯度提升都属于使用多个模型的思路，但组合方式不同。关键不是只问
用了几个模型，而是要问这些预测是怎样被合并的。 - 相关概念：
决策树(decision tree)，过拟合(overfitting)，误差(error) - 中心 Section：
P4-15.1 - 出现 Section：
P4-15.1,P4-16.1
精确率¶
- 含义：精确率是被模型预测为正类的案例中，实际也为正类的比例。
- 为什么重要：当误报成本很高时，精确率尤其重要。它帮助读者区分正类预测比较可信的模型，和会发出大量没必要警报的模型。
- 相关概念：
召回率，准确率，混淆矩阵，假阳性 - 中心 Section：
P1-13.4 - 出现 Section：
P4-4.1,P4-4.2,P4-6.1,P4-6.4,P4-8.1
解释边界¶
- 含义：解释边界标明面对数据结果或比较结果时，可以说到哪里，以及从哪里开始必须等待更多证据。
- 为什么重要：比较表可以显示变化信号，但不能单独证明原因、诊断或未来结果。解释边界把
需要复核这样的保守输出，与异常已确认这样的强主张分开。 - 相关概念：
解释，比较报告，输出结构，复核候选队列 - 核心 Section：
P3-8.2 - 出现 Section：
P3-1.2,P3-8.4,P3-8.7,P3-9.1,P3-summary
检索增强生成(retrieval-augmented generation, RAG)¶
- 含义：检索增强生成先查找和问题相关的外部资料，把检索结果接到模型输入上下文中，再生成回答。核心在于
检索和生成是分开的两个阶段，让模型同时使用参数中已有的知识和刚取回的依据。 - 为什么重要：RAG 是减少模型只依赖内部参数回答这一限制的代表方式，也能让回答基于较新的资料或组织内部文档。但如果检索质量、chunk 设计、来源追踪很弱，即使生成步骤写得流畅，整体回答质量也会动摇。
- 相关概念：
嵌入(embedding)，相似度检索，检索(retrieval)，出处追踪(provenance)，搜索索引(search index) - 核心 Section：
P1-13.3 - 出现 Section：
P1-14.1,P1-14.2,P1-14.3,P6-4.2,P6-10.3,P6-12.1,P6-12.2,P6-13.1,P7-5.1,P7-5.3
建模任务(modeling task)¶
- 含义：明确给出输入、期望输出和成功标准的具体任务定义。
- 为什么重要：它防止在问题还没有整理成可学习或可评估任务之前就先选择模型。
- 相关概念：可结合本页相邻词条和正文中的相关 Section 一起阅读。
- 中心 Section：
P1-4.4
假设检验(hypothesis testing)¶
- 含义：在选定标准下检查样本证据是否足以拒绝某个假设的统计程序。
- 为什么重要：它帮助避免把有噪声的样本差异说成过强的结论。
- 相关概念：可结合本页相邻词条和正文中的相关 Section 一起阅读。
- 中心 Section：
P2-5.5