概念词汇表:G¶
本页整理拼音首字母为 G 的中文概念词条。词条正文由单词源文件 include 生成。
泛化¶
- 含义:泛化是指模型学到的关系在训练时没有见过的新数据上仍然大体有效。它表示模型抓住了更一般的模式,而不是只记住训练样本。
- 为什么重要:泛化区分了真正的学习和单纯记忆。即使训练分数很好,也需要验证数据和测试数据来确认模型能否应对相似的新情况。过拟合和欠拟合都可以看作泛化失败的不同形式。
- 相关概念:
过拟合,欠拟合 - 中心 Section:
P1-3.2 - 出现 Section:
P5-8.1,P5-8.2
生成¶
- 含义:生成是指根据指令、条件、示例或上下文产生新的文本、图像、语音、代码等输出。它不是从固定选项中选一个答案,而是在一连串较小选择中构造结果。
- 为什么重要:生成把生成式 AI 与分类、排序等任务区分开来。生成结果的质量不仅取决于最后选了什么,还取决于上下文、采样设置,以及形成输出的中间决策序列。
- 相关概念:
推荐,排序,大语言模型,采样,下一输出生成 - 中心 Section:
P1-10.1 - 出现 Section:
P1-1.2,P1-13.3,P5-15.1,P5-15.2,P5-15.3
生成式 AI¶
- 含义:生成式 AI 是能够生成文本、图像、音频、视频、代码等新内容的一类模型和服务。它由输出的性质来界定,而不是由某一种模型结构来界定。
- 为什么重要:这个概念能避免把深度学习方法、LLM 模型家族和面向用户的 AI 服务混成一个模糊说法。它也提醒读者,评价生成内容需要不同于简单分类标签的标准。
- 相关概念:
生成,深度学习,大语言模型 - 中心 Section:
P1-10.1 - 出现 Section:
P1-1.3
生成模型¶
- 含义:生成模型从数据中学习模式或候选分布,并能产生新的样本或下一步输出。它不只是把输入映射到固定标签,而是能从学到的可能数据中抽取输出。
- 为什么重要:生成模型代表了从“判断哪个类别正确”到“产生新的内容”的转变。理解它时需要考虑多样性、一致性、条件信息和分布拟合,而不只是准确率。
- 相关概念:
生成,采样,下一词元预测 - 中心 Section:
P5-15.2 - 出现 Section:
P5-15.1,P5-15.3
Git¶
- 含义:Git 是一种分布式版本控制工具。它记录和追踪变更、说明与历史,而不是只保存最新文件。每个工作者都可以在本机保留历史、比较状态,并恢复到较早版本。
- 为什么重要:同时包含文档、代码、图片和笔记的项目,需要知道什么被改了、何时改的、为什么改。Git 把文件管理变成变更历史管理,是评审、协作和部署流程的基础。
- 相关概念:
版本控制,提交,仓库 - 中心 Section:
P2-14.1 - 出现 Section:
P2-14.2,P2-15.2
目标¶
- 含义:目标用能够指导行动的方式说明要达到的结果或要完成的工作。它比宽泛愿望更具体,因为它能帮助判断当前执行是否已经完成。
- 为什么重要:在智能体执行中,目标不清会让计划、工具选择和停止条件都变得不稳定。目标先给出边界,再展开具体计划,并把当前要完成的工作和更大的问题区分开。
- 相关概念:
智能体,状态,停止条件 - 中心 Section:
P1-14.3 - 出现 Section:
P1-14.5
足够好的解¶
- 含义:足够好的解是在有限时间和资源下,对当前目的已经够用的答案。它不一定是数学上证明过的最优解,而是一个实践上的停止点。
- 为什么重要:真实系统常常不能等待完美答案。这个概念说明为什么启发式方法、搜索捷径、推荐系统和智能体经常选择在时间和成本内达到可用质量,而不是追求理论最优。
- 相关概念:
启发式方法,穷举搜索,优化 - 中心 Section:
P1-7.2
GPT¶
- 含义:GPT 是一类基于 Transformer 解码器的语言模型家族,经过预训练后根据前文上下文生成下一个词元。它可以理解为一次生成一个词元的生成式模型家族。
- 为什么重要:GPT 风格模型直接影响了现代 LLM 的用户体验,包括聊天、代码生成、摘要和工具调用流程。这个概念也帮助读者区分基于解码器的生成模型和 BERT 这类编码器表示模型。
- 相关概念:
解码器,预训练,上下文学习 - 中心 Section:
P6-5.1 - 出现 Section:
P1-11.3
GPU,图形处理器¶
- 含义:GPU 是一种适合并行执行大量相似数值运算的加速器。它最初对图形计算很重要,后来因为神经网络训练和推理大量依赖矩阵与张量计算,成为 AI 的核心硬件之一。
- 为什么重要:深度学习变得可行,不只因为模型思想进步,也因为大规模计算能力变得可获得。GPU 解释了训练时间、实验规模、成本和可行模型大小为什么强烈依赖硬件。
- 相关概念:
并行处理,批量,张量 - 中心 Section:
P5-9.1
评分器¶
- 含义:评分器是一种评价机制,用分数、通过/失败结果或标准匹配来判断输出。它可以是人工流程、规则检查器,也可以是另一个评价模型;关键是同一套判断过程可以重复运行。
- 为什么重要:生成式 AI 的输出往往没有唯一固定答案。评分器把模糊印象转成可重复的标准,让比较和回归检查成为可能,也能说明自动评价能测什么、哪些部分仍需要人工审阅。
- 相关概念:
评价,自动评价,测试框架,可复现性 - 中心 Section:
P1-14.5 - 出现 Section:
P1-14.6
梯度¶
- 含义:梯度是由多个偏导数组成的向量,表示某个值通常是损失相对于多个参数如何变化。它像一个方向信号,提示参数变化会怎样影响损失。
- 为什么重要:梯度把损失和学习连接起来。它说明参数不是随机改变的,而是沿着预计能降低损失的方向更新。没有梯度,就很难把梯度下降和反向传播理解为具体计算过程。
- 相关概念:
偏导数,向量,训练 - 中心 Section:
P2-4.3 - 出现 Section:
P2-4.4,P2-6.3,P5-5.1,P5-5.2,P5-6.1,P5-7.1
梯度提升¶
- 含义:梯度提升是一种集成方法,按顺序构建模型,让每个新模型去修正前面模型留下的错误。实践中常见做法是一步步加入小决策树,以减少剩余残差。
- 为什么重要:梯度提升在许多表格数据问题中很强,但也对调参和过拟合较敏感。它说明集成并不只意味着训练许多独立模型再平均,也可以通过顺序纠错来工作。
- 相关概念:
集成,残差,超参数 - 中心 Section:
P4-16.1 - 出现 Section:
P4-16.2
梯度下降¶
- 含义:梯度下降是一种迭代优化方法,按预计能降低损失的方向一点点改变参数。它不是一次性求出最佳参数,而是反复跟随局部方向信号移动。
- 为什么重要:梯度下降说明梯度如何变成实际的学习更新。它帮助读者把训练理解为在损失地形中的移动,模型是逐步调整数值,而不是一次计算就发现最终答案。
- 相关概念:
梯度,优化,学习率 - 中心 Section:
P2-6.3 - 出现 Section:
P2-15.2
图¶
- 含义:图用节点表示对象,用边表示对象之间的关系。它关注的不只是每个对象本身的属性,还关注对象如何相互连接。
- 为什么重要:有些数据不能只靠表格中的行来理解,而要沿着关系来阅读。图支持关于邻居、路径、依赖、影响和连接模式的问题,把解释单位从孤立数值转向关系网络。
- 相关概念:
节点,边,权重 - 中心 Section:
P2-9.3 - 出现 Section:
P2-9.2,P2-9.4
基于图的搜索¶
- 含义:基于图的搜索把相近的向量或候选项存成相互连接的节点,并沿着这些连接缩小搜索范围。它不是每次都比较全部对象,而是在有希望的邻域中移动。
- 为什么重要:这是可扩展近似最近邻搜索的重要直觉。搜索索引不只是存储结构,也是更快到达可能候选项的结构。
- 相关概念:
图,近似最近邻,搜索索引,暴力搜索 - 中心 Section:
P1-13.4 - 出现 Section:
P1-13.3,P6-3.4,P6-12.2
groupby¶
- 含义:在 Pandas 中,
groupby先把具有相同类别值的行分组,再为每个组计算计数、平均值等摘要。它把读表方式从逐行阅读改成逐组阅读。 - 为什么重要:许多模式只有按客户、地区、月份、状态或其他类别分组后才会出现。
groupby不只是计算平均值的语法,而是在决定应该比较哪些组、表格要回答什么问题。 - 相关概念:
聚合,筛选,列 - 中心 Section:
P2-12.2 - 出现 Section:
P2-12.3
GRU,门控循环单元¶
- 含义:门控循环单元是一种循环神经网络结构,用门来控制保留多少信息、更新多少信息。它比 LSTM 更简单,但同样希望比基础 RNN 更稳定地处理序列上下文。
- 为什么重要:GRU 说明序列模型的进展不只是增加更多层,也包括控制记忆和更新行为。它帮助读者理解循环模型曾如何尝试缓解学习较长依赖关系的困难。
- 相关概念:
循环神经网络,长短期记忆网络,隐藏状态 - 中心 Section:
P1-11.2 - 出现 Section:
P5-12.1