概念词汇表：A¶
本页整理拼音首字母为 A 的中文概念词条。词条正文由单词源文件 include 生成。
问责¶
- 含义：问责是指 AI 系统的输出、决策和自动化行为背后必须有可识别的人或组织责任。它追问出问题时谁审查、批准、解释、修正并运行了系统。
- 为什么重要：AI 结果即使有风险，也可能显得流畅而权威。在高影响场景中，需要日志、批准记录、审查流程和责任边界，避免问题被简单归为“模型自己做的”。问责不只是失败后的追责，也是部署前让责任可见的设计原则。
- 相关概念：
人工监督，安全性，审查，日志 - 中心 Section：
P1-15.1 - 出现 Section：
P1-10.3
准确率¶
- 含义：准确率是正确预测数除以全部预测数得到的比例。它是分类任务中最直观的指标之一，因为能快速概括模型有多常选对答案。
- 为什么重要：准确率适合作为第一眼检查，但也可能遮住重要的失败模式。在数据不平衡时，模型可能看起来准确，却忽略少数但重要的类别。读者应把准确率当作起点，并继续追问剩下哪些错误、哪些错误代价更高、是否需要其他指标。
- 相关概念：
损失曲线，验证，测试 - 中心 Section：
P2-13.3 - 出现 Section：
P2-13.3,P4-4.2,P4-5.1,P4-6.1,P4-6.4
行动¶
- 含义：行动是AI 智能体或强化学习智能体在某个状态下实际选择并执行的操作。在搜索或强化学习中，它会改变环境；在服务型 AI 智能体中，它可以是搜索、读取文件、调用 API、编辑文档或报告结果。
- 为什么重要：行动是推理变成状态变化的地方。可用行动集合决定 AI 智能体能完成什么、会产生什么风险、接下来能取得哪些观察。这个概念有助于区分内部计算和外部执行，也说明工具权限和行动设计为什么同时影响能力与安全。
- 相关概念：
状态，策略，奖励，观察 - 中心 Section：
P1-8.3 - 出现 Section：
P1-7.1，P1-14.3，P3-9.8,P4-2.3
AI 智能体¶
- 含义：在 AI 系统语境中，AI 智能体是一种执行结构，会接收目标、检查状态、选择行动、观察结果，并跨多个步骤持续推进。普通英语单词
agent本身并不等于 AI；本书中的这个词条指协调搜索、工具使用、审查和重试的服务型或系统型 AI 结构。 - 为什么重要：一次聊天回答和多步骤 AI 智能体工作流不是同一件事。AI 智能体质量不仅取决于模型，还取决于计划、工具选择、状态跟踪、停止条件和失败恢复。这个概念也有助于区分服务型 AI 智能体和强化学习智能体。
- 相关概念：
工具使用(tool use)，权限(permission)，人工监督(human oversight)，观察(observation)，强化学习智能体 - 中心 Section：
P1-14.3 - 出现 Section：
P1-14.4，P1-14.5，P1-14.6，P6-15.1，P6-15.2，P6-16.1，P6-16.2，P7-6.1，P7-6.2,P4-2.3
AI 服务软件回归(software regression)¶
- 含义：AI 服务软件回归是指修改代码、prompt、模型或设置之后，原本能工作的功能或质量变差的现象。机器学习中的回归(regression)通常指预测连续数值的任务，而软件回归指一次变更让既有行为的质量倒退。
- 为什么重要：AI 服务只要更换模型或修改 prompt，就可能让过去正确的案例变错。这个概念能说明为什么需要可重复的验证和评估记录，也能说明为什么必须用同一标准比较变更前后的行为。
- 相关概念：
回归(regression),指标(metric),模型验证(model validation),可复现性(reproducibility) - 核心 Section:
P1-14.5 - 出现 Section:
AI，人工智能¶
- 含义：人工智能是一个宽泛领域和系统类别，包含执行与智能相关功能的计算方法，例如规则推理、搜索、学习、生成和规划。它不是某一个模型或某一种近期技术的名字。
- 为什么重要：日常说法中常把 AI、机器学习、深度学习、生成式 AI 和 LLM 混在一起。这个概念提供最高层级的类别，帮助区分问题领域、学习方法、模型家族和已部署服务，也让关于 AI 进展的说法更精确。
- 相关概念：
机器学习，深度学习，生成式 AI，大语言模型 - 中心 Section：
P1-1.1 - 出现 Section：
P1-index，P4-1.1，P1-1.2，P1-summary
AI 学习(learning)¶
- 含义：AI 学习是在经历数据之后，特定任务上的性能有所改善的宽泛概念。它不应被直接理解成模型像人一样理解了意义，而是要看在给定数据、目标和性能标准下，模型行为是否变得更好。
- 为什么重要：韩语中的“学习”容易同时覆盖
learning和training，所以要把性能改善这个宽泛结果，与调整内部值的具体训练过程分开。这个区分能避免把“模型学会了”读成模糊的智能增加，而是先追问：在什么经验数据、什么任务、什么性能标准下，什么变好了。 - 相关概念：
模型训练(model training),模型(model),泛化(generalization),推断(inference) - 核心 Section:
P1-5.1
AI 对齐¶
- 含义：AI 对齐是让模型行为符合人的意图、安全规则和政策约束的设计问题。它不只是理解指令，还包括避免不可接受输出，并在敏感情境中谨慎行动。
- 为什么重要：能力更强的模型不会自动更安全。AI 对齐把有用性和可接受行为分开，说明为什么性能、真实性、拒答边界和安全约束必须一起考虑。它也区分了模型行为和权限、审批流程等外部控制。
- 相关概念：
指令微调，提示，评估指标，人工监督 - 中心 Section：
P6-10.2 - 出现 Section：
P6-17.1
ANN，近似最近邻¶
- 含义：近似最近邻搜索会快速找到足够接近的向量候选，而不是总保证绝对最近的项目。它有意用完美最优性换取大规模场景下的速度。
- 为什么重要：大规模向量集合会让精确比较变得昂贵。ANN 方法解释了真实搜索系统为什么常选择快速且足够好的候选，而不是等待太慢的精确答案。这个概念把向量搜索质量与延迟、内存使用和服务约束连接起来。
- 相关概念：
最近邻，搜索索引，向量数据库 - 中心 Section：
P1-13.4 - 出现 Section：
P6-3.4
注意力¶
- 含义：注意力是一种结构，让模型在产生输出时对输入序列中的不同位置赋予不同权重。它不是把每个输入位置同等对待，而是让与当前计算更相关的部分产生更大影响。
- 为什么重要：注意力减少了把长输入压缩成单个固定向量的瓶颈，并标志着向 Transformer 模型过渡的关键一步。它为理解自注意力、并行 attention head 结构和长上下文行为做准备，因为模型可以根据任务重新分配关注位置。
- 相关概念：
Transformer 架构(Transformer)，语言建模，自注意力，固定长度向量 - 中心 Section：
P1-11.2 - 出现 Section：
P1-9.3，P5-12.2，P5-13.1，P5-13.2，P5-14.1，P5-14.2，P6-4.2
AI 护栏(guardrail)¶
- 含义：限制 AI 系统不安全或不希望行为的策略、规则或技术约束。
- 为什么重要：它帮助读者把安全性读成明确的控制层，而不是模糊地期待模型自然表现良好。
- 相关概念：可结合本页相邻词条和正文中的相关 Section 一起阅读。
- 中心 Section：
P1-14.5
安全(security)¶
- 含义：保护系统、数据、凭据和操作免受未授权访问或有害行为影响的实践。
- 为什么重要：它很重要，因为 AI 应用常把语言模型连接到文件、工具、API 和敏感信息。
- 相关概念：可结合本页相邻词条和正文中的相关 Section 一起阅读。
- 中心 Section：
P1-15.3 - 出现 Section：
P1-14.2,P1-14.4,P1-14.6,P1-16.1
AI 风险(AI risk)¶
- 含义：AI 系统可能因错误、误用、不安全部署、偏差、隐私暴露或控制失效而造成伤害的可能性。
- 为什么重要：它帮助读者把有用能力和这种能力变得不安全或带来社会成本的条件分开读。
- 相关概念：可结合本页相邻词条和正文中的相关 Section 一起阅读。
- 中心 Section：
P1-10.3 - 出现 Section：
P1-15.1
AI 系统安全性(safety)¶
- 含义：降低 AI 系统有害行为、不安全输出和不可接受风险的性质。
- 为什么重要：它把安全性读成系统设计与运营问题，而不只是模型答案看起来是否正确。
- 相关概念：可结合本页相邻词条和正文中的相关 Section 一起阅读。
- 中心 Section：
P1-15.1 - 出现 Section：
P1-10.3
AI 伦理(AI ethics)¶
- 含义：讨论构建或使用 AI 系统时必须考虑哪些伤害、责任、权利与社会影响的实践和研究。
- 为什么重要：它让 AI 讨论不只停在技术能力上，而是把模型使用、数据使用、安全性、问责和人的影响一起检查。
- 相关概念：可结合本页相邻词条和正文中的相关 Section 一起阅读。
- 中心 Section：
P1-15.1