概念词汇表：G¶
本页整理拼音首字母为 G 的中文概念词条。词条正文由单词源文件 include 生成。
概率推理(probabilistic reasoning)¶
- 含义: 概率推理是在信息不完整或不确定时，用概率来表示某个结论有多可信的推理方式。它不是只给出真或假，而是处理可信度的程度。
- 为什么重要: 许多现实判断无法用固定规则完全决定。概率推理帮助读者理解为什么 AI 需要在不确定性下比较可能性，并为后面的统计、机器学习和预测概念做准备。
- 相关概念:
概率(probability),推理(reasoning),预测(prediction),不确定性(uncertainty) - 核心 Section:
P1-2.2 - 出现 Section:
P1-2.2
规则型方法¶
- 含义: 规则型方法是由人明确写出条件、事实、流程或政策，再用这些规则得出判断或行动的问题解决方式。
- 为什么重要: 它能和机器学习形成清楚对比。规则型方法的判断标准由人直接写出，而学习型方法则从数据案例中拟合判断标准。
- 相关概念:
基于规则的系统(rule-based system),知识表示(knowledge representation),机器学习(machine learning),策略规则(policy rule) - 首次说明于:
P1-2.1 - 出现 Section:
P4-1.2
规则式系统(rule-based system)¶
- 含义: 规则式系统是把当前事实和人工写好的规则相对照，再根据匹配结果决定结论或行动的系统。
- 为什么重要: 它让读者看到 AI 不只包括最近的学习模型，也包括显式规则和知识表示驱动的系统。理解规则式系统后，才能更清楚地区分手写规则、搜索、概率推理和机器学习。
- 相关概念:
符号式 AI(symbolic AI),事实(fact),知识库(knowledge base),推理引擎(inference engine) - 核心 Section:
P1-2.1 - 出现 Section:
P1-1.1,P1-2.1,P1-3.1
干预反馈(intervention feedback)¶
- 含义: 模型输出、复核规则或运营处置改变后续数据和标签，使后来观测到的结果不同于原本自然过程的一种反馈结构。
- 为什么重要: 如果干预减少了后续事件，或改变了日志长度和标签选择，那么后续数据未必能证明案例原本就是安全的，也可能只是先发生处置之后留下的结果。这个概念帮助我们区分干预前信号、干预后的运营结果，以及选择性留下的标签。
- 相关概念:
解释边界(interpretation boundary),选择性标签(selective labels),人工监督(human oversight),出处追踪(provenance) - 核心 Section:
P3-8.7 - 出现 Section:
P3-8.7
过拟合¶
- 含义: 过拟合是模型过度贴合训练数据中的细节或噪声，导致训练分数很好但新数据表现变差的状态。
- 为什么重要: 过拟合会让模型看起来已经学会了问题，但实际只是记住了训练数据里的偶然模式。理解它是阅读验证分数、测试分数和泛化能力的基础。
- 相关概念:
泛化(generalization),模型验证(model validation),测试数据(test data),欠拟合(underfitting) - 首次说明于:
P4-5.1 - 出现 Section:
P1-3.2,P4-index,P4-3.2,P4-4.1,P4-5.2,P4-6.1,P4-9.1,P4-9.2,P4-14.2,P4-16.2,P5-8.1,P5-8.2
过度代理性¶
- 含义: 该词条说明这一概念在 AI、数据处理或系统运行中的基本含义。
- 为什么重要: 理解它有助于把相近概念、执行边界和失败原因区分开。
- 相关概念:
最小权限(least privilege),权限(permission),人工监督(human oversight),安全(security),AI 智能体(AI agent) - 核心 Section:
P1-15.3 - 出现 Section:
P1-10.3,P1-14.6,P7-6.2
生成¶
- 含义：生成是指根据指令、条件、示例或上下文产生新的文本、图像、语音、代码等输出。它不是从固定选项中选一个答案，而是在一连串较小选择中构造结果。
- 为什么重要：生成把生成式 AI 与分类、排序等任务区分开来。生成结果的质量不仅取决于最后选了什么，还取决于上下文、采样设置，以及形成输出的中间决策序列。
- 相关概念：
推荐，排序，大语言模型，采样，下一输出生成 - 中心 Section：
P1-10.1 - 出现 Section：
P1-1.2，P1-13.3，P5-15.1，P5-15.2，P5-15.3
生成式 AI¶
- 含义：生成式 AI 是能够生成文本、图像、音频、视频、代码等新内容的一类模型和服务。它由输出的性质来界定，而不是由某一种模型结构来界定。
- 为什么重要：这个概念能避免把深度学习方法、LLM 模型家族和面向用户的 AI 服务混成一个模糊说法。它也提醒读者，评价生成内容需要不同于简单分类标签的标准。
- 相关概念：
生成，深度学习，大语言模型 - 中心 Section：
P1-10.1 - 出现 Section：
P1-1.3，P4-1.1
生成模型¶
- 含义：生成模型从数据中学习模式或候选分布，并能产生新的样本或下一步输出。它不只是把输入映射到固定标签，而是能从学到的可能数据中抽取输出。
- 为什么重要：生成模型代表了从“判断哪个类别正确”到“产生新的内容”的转变。理解它时需要考虑多样性、一致性、条件信息和分布拟合，而不只是准确率。
- 相关概念：
生成，采样，下一词元预测 - 中心 Section：
P5-15.2 - 出现 Section：
P5-15.1，P4-1.1，P5-15.3
概率估计¶
- 含义：概率估计是把某个结果或类别为真的可能性用类似概率的数字表示出来的值。不过这个值不一定总是校准良好的真实概率，所以需要把模型输出分数和概率估计分开阅读。表面上它们都可能是 0 到 1 之间的数字，但有的只是排序分数，有的才试图对应实际发生频率。
- 为什么重要：看起来像分数的数字，是否能按概率来解释，是否还需要校准，都需要单独确认。把分类结果通过阈值连接到行动时，这个区别尤其重要。理解概率估计，才能分清
0.9是相对更高的分数，还是大约十次里九次成立的概率含义。 - 相关概念：
概率，概率模型，校准，阈值，人工复核 - 核心 Section：
P1-7.3 - 出现 Section：
P1-6.3,P3-9.8,P4-6.4,P4-11.1,P4-15.3
概率校准¶
- 含义: 概率校准检查模型给出的概率分数是否符合真实发生频率。例如分数约为 0.70 的样本，实际正确率是否也接近 70%。
- 为什么重要: 高分不一定就是可信概率。把分数用于人工复核、自动批准或风险告警时，概率校准会直接影响运营决策是否安全。
- 相关概念:
概率,分类,评估 - 核心 Section:
P1-6.2 - 出现 Section:
P1-6.3,P1-7.3,P4-6.4,P4-11.1,P4-15.3
GPT¶
- 含义：GPT 是一类基于 Transformer 解码器的语言模型家族，经过预训练后根据前文上下文生成下一个词元。它可以理解为一次生成一个词元的生成式模型家族。
- 为什么重要：GPT 风格模型直接影响了现代 LLM 的用户体验，包括聊天、代码生成、摘要和工具调用流程。这个概念也帮助读者区分基于解码器的生成模型和编码器中心的表示模型。
- 相关概念：
解码器，预训练，上下文学习 - 中心 Section：
P6-5.1 - 出现 Section：
P1-11.3
梯度¶
- 含义：梯度是由多个偏导数组成的向量，表示某个值通常是损失相对于多个参数如何变化。它像一个方向信号，提示参数变化会怎样影响损失。
- 为什么重要：梯度把损失和学习连接起来。它说明参数不是随机改变的，而是沿着预计能降低损失的方向更新。没有梯度，就很难把梯度下降和反向传播理解为具体计算过程。
- 相关概念：
偏导数，向量，模型训练 - 中心 Section：
P2-4.3 - 出现 Section：
P2-4.4，P2-6.3，P5-5.1，P5-5.2，P5-6.1，P5-7.1
梯度下降¶
- 含义：梯度下降是一种迭代优化方法，按预计能降低损失的方向一点点改变参数。它不是一次性求出最佳参数，而是反复跟随局部方向信号移动。
- 为什么重要：梯度下降说明梯度如何变成实际的学习更新。它帮助读者把训练理解为在损失地形中的移动，模型是逐步调整数值，而不是一次计算就发现最终答案。
- 相关概念：
梯度，优化，学习率 - 中心 Section：
P2-6.3 - 出现 Section：
P2-15.2
概率性选择(probabilistic choice)¶
- 含义：从概率分布中作出的选择，而不是总是选择分数最高的单一选项。
- 为什么重要：它解释了为什么生成系统在采样设置下，面对同一个 prompt 也可能产生不同输出。
- 相关概念：可结合本页相邻词条和正文中的相关 Section 一起阅读。
- 中心 Section：
P1-10.2
概率模型(probabilistic model)¶
- 含义：用概率表示不确定性，而不只使用固定规则或单一结果的模型。
- 为什么重要：它帮助读者把不确定性读成模型结构的一部分，而不只是“不知道答案”的失败。
- 相关概念：可结合本页相邻词条和正文中的相关 Section 一起阅读。
- 中心 Section：
P1-7.3 - 出现 Section：
P1-7.2,P1-7.4,P4-1.2,P1-summary
工具执行权限(permission)¶
- 含义：决定智能体、工具或用户是否可以执行某个具体动作的授权边界。
- 为什么重要：它很重要，因为连接工具的 AI 系统必须区分建议、批准和实际执行。
- 相关概念：可结合本页相邻词条和正文中的相关 Section 一起阅读。
- 中心 Section：
P7-6.2 - 出现 Section：
P1-14.2,P1-14.3,P1-14.4,P6-14.1,P6-16.2,P6-18.2,P7-6.1
关键词搜索(keyword search)¶
- 含义：通过匹配查询中的显式词语或术语来寻找文档或段落的搜索方法。
- 为什么重要：它为理解相似度搜索提供对照：后者即使没有完全相同的词，也可能找到相关意义。
- 相关概念：可结合本页相邻词条和正文中的相关 Section 一起阅读。
- 中心 Section：
P1-13.2
轨迹(trajectory)¶
- 含义：状态、动作、观测或位置随时间形成的有序路径。
- 为什么重要：它对强化学习、机器人和序列分析有用，因为事件顺序会改变解释。
- 相关概念：可结合本页相邻词条和正文中的相关 Section 一起阅读。
- 中心 Section：
P1-7.4
概率性预测(probabilistic prediction)¶
- 含义：用概率表示可能结果，而不是只返回一个固定答案的预测。
- 为什么重要：它帮助区分置信程度、不确定性、校准和决策阈值。
- 相关概念：可结合本页相邻词条和正文中的相关 Section 一起阅读。
- 中心 Section：
P1-6.3
概率分布(probability distribution)¶
- 含义：描述概率如何分配到可能取值或结果上的结构。
- 为什么重要：它很重要，因为模型常常先计算一个分布，之后才选择或报告某个结果。
- 相关概念：可结合本页相邻词条和正文中的相关 Section 一起阅读。
- 中心 Section：
P2-5.2
概率(probability)¶
- 含义：在给定模型或情境下，表示某个事件或结果有多可能发生的数值表达。
- 为什么重要：它是不确定性、随机过程、概率预测和许多评估思想的基本语言。
- 相关概念：可结合本页相邻词条和正文中的相关 Section 一起阅读。
- 中心 Section：
P2-5.1 - 出现 Section：
P1-5.2,P1-6.2,P1-6.3,P2-5.2,P2-5.3,P2-6.2
观测结果(observation)¶
- 含义：智能体或模型接收到的关于当前环境或情境状态的信息。
- 为什么重要：它很重要，因为智能体常常依据部分观测行动，而不是完全访问真实状态。
- 相关概念：可结合本页相邻词条和正文中的相关 Section 一起阅读。
- 中心 Section：
P1-14.3 - 出现 Section：
P1-8.3,P1-14.4,P1-14.5