目录¶
Section ID:
BOOK-tocVersion:v2026.07.23
本文档是 AiBook 面向读者的目录。它不是单纯列出文件,而是让读者一眼看到从 AI 导论与地形图 -> 基础修复 -> 数据建模 -> 机器学习 -> 深度学习 -> LLM 与生成式 AI -> 项目实践 连接起来的重新学习顺序。
这里的 采用,是指这套顺序已经被选为本书的基准结构。它并不意味着每个 Chapter 都已经完全写完或最终验证。正文仍会继续补强,但 Part 和 Chapter 之间的学习依赖关系会以本文档为基准追踪。
快速开始¶
如果是第一次阅读,可以先从 介绍页 确认本书的目的和阅读方法,然后按顺序进入 Part 1。阅读中如果术语变得不清楚,可以在 概念词汇表 中找到代表说明位置。
| 读者状态 | 推荐开始路径 |
|---|---|
| AI 整体流程还很陌生 | 介绍页 -> Part 1 -> Part 2 |
| 数学或 Python 记忆已经模糊 | 介绍页 -> Part 1 -> Part 2 -> Part 3 |
| 用过 AI 工具,但内部结构较弱 | 介绍页 -> Part 1 -> Part 3 -> Part 4 |
| 主要关心 LLM 与生成式 AI 的结构 | Part 1 的 LLM 预览 -> Part 5 -> Part 6 |
| 想用产出物验证学习内容 | 确认 Part 1-6 中需要的概念 -> Part 7 |
整体流程¶
flowchart LR
A[AI 导论与地形图]
B[基础修复]
C[数据建模]
D[机器学习]
E[深度学习]
F[LLM 与生成式 AI]
G[项目实践]
A --> B --> C --> D --> E --> F --> G 这张图展示的是学习依赖关系:前面的 Part 会成为后面 Part 的阅读前提。
| Part | 中心作用 | 交给下一个 Part 的问题 |
|---|---|---|
| Part 1. AI 导论与地形图 | 建立 AI 的范围、历史、规则与学习的区别,以及 LLM 使用体验的基础词汇。 | 要阅读 AI 模型计算,需要哪些基础? |
| Part 2. 基础修复 | 把数学、Python、数据工具和执行环境恢复为阅读模型计算的语言。 | 如何把原始数据变成可学习的结构? |
| Part 3. 数据建模 | 把数据重新组织成样本、特征、基准线和比较结构。 | 模型会从这样的结构化数据中学到什么? |
| Part 4. 机器学习 | 把问题定义、学习、验证、评估和代表性算法作为共同结构来阅读。 | 神经网络会怎样以计算方式扩展这个结构? |
| Part 5. 深度学习 | 处理神经网络计算、反向传播、CNN、RNN、attention 和 Transformer 结构。 | 这些结构如何用于 LLM 与生成式 AI 服务? |
| Part 6. LLM 与生成式 AI | 连接 token、提示词、生成设置、嵌入、检索、RAG、智能体和评估。 | 如何在小项目中验证并记录已经学到的内容? |
| Part 7. 项目实践 | 把问题、输入、基准线、比较、执行日志和运营回顾组合成一个产出物。 | 下一次迭代应该改进什么? |
记号说明¶
在面向读者的公开说明里,本书按 Part > Module > Chapter > Section 来阅读。实际源码目录使用的是 Part > Chapter > Section 结构,而 Module 是把若干 Chapter 组织成一条阅读流程的编辑单位。
本文使用以下记号,让树形结构更清楚。
## Part:本书的一个主要学习区段### Module:Part 内部按主题划分的阅读单元#### Chapter或#### Project:Module 内部一个独立学习单元。Part 7 因为实践性质较强,可以写成Project,但目录名仍然保留chapter-XX形式。- Section 项:实际被写作、维护和追踪的文档单位
即使同一个核心概念在多个 Section 中再次出现,目录里第一次出现它的位置,通常也是该 Part 内的代表性详细说明位置。后续 Section 则是在不同问题场景或计算语境里再次接回这个概念。
Part 1. AI 导论与地形图¶
在深入具体技术之前,这一 Part 先重建 AI 的整体地图。
Module 1. AI 的范围与历史¶
Chapter 1. 什么是 AI Concept Definition¶
- P1-1.1 AI 这个词的范围:减少把 AI 一词用得过宽而产生的混乱
- P1-1.2 AI 处理的问题类型:回看识别、搜索、预测、生成等问题类型
- P1-1.3 AI、机器学习、深度学习与生成式 AI 的关系:固定之后会反复出现的术语位置
Chapter 2. AI 的历史与范式变化 History and Paradigm¶
- P1-2.1 符号主义 AI 与规则式方法:回看早期 AI 的核心思维方式与局限
- P1-2.2 搜索、知识表示与概率推断:连接早期的问题求解路径与不确定性处理
- P1-2.3 走向机器学习、深度学习与生成式 AI 的脉络:说明为什么以数据为中心的方法逐渐成为主流
Module 2. 规则、模型与学习¶
Chapter 3. 从规则走向学习 History and Paradigm¶
- P1-3.1 规则式系统的优势与边界:整理手写规则的优点与代价
- P1-3.2 从数据中学习模式意味着什么:说明学习型 AI 背后的关键转变
- P1-3.3 规则方法与表征学习:把规则、模式与表征区分开来
Chapter 4. 把问题变成模型 Modeling Perspective¶
- P1-4.1 重新习惯“模型”这个词:把模型视为简化后的表示,并与真实问题区分开
- P1-4.2 输入、输出与数据:固定把现实问题转成可计算形式时的起点
- P1-4.3 特征、表征与参数:回看数据在模型内部如何被处理
- P1-4.4 问题定义如何决定模型:说明好问题定义先于好模型
Chapter 5. 学习与模型执行 Learning Principles¶
- P1-5.1 学习到底改变什么:回看参数与表征在学习过程中如何发生变化
- P1-5.2 模型执行(inference)到底执行什么:把已训练模型的使用与学习过程分开
- P1-5.3 “推理”一词的混乱:区分
inference与reasoning
Module 3. 不确定性与问题求解¶
Chapter 6. 不确定性与概率判断 Mathematical Foundations¶
- P1-6.1 信息不完整且例外很多的问题:说明仅靠规则难以处理的信息缺失、噪声与例外密集情形
- P1-6.2 区分概率、不确定性与随机过程:分开那些常被混用的表达
- P1-6.3 概率性判断在 AI 中出现在哪里:回看概率视角如何出现在分类、预测和生成中
Chapter 7. 搜索与启发式 Practical Heuristics¶
- P1-7.1 搜索空间与计算极限:说明为什么不能把所有可能答案都穷尽检查
- P1-7.2 启发式减少了什么:回看那些减少时间、计算量与候选数的标准
- P1-7.3 启发式与概率模型的区别:避免把经验规则和概率模型混成一类
- P1-7.4 补充学习:从路径寻找走到自动驾驶路径规划:把搜索与启发式延伸到真实规划案例
Chapter 8. 学习类型的基本区分 Learning Principles¶
- P1-8.1 监督学习:输入与标签:回看如何从带标签数据中学习
- P1-8.2 无监督学习:结构与表征:回看没有标签时如何发现结构
- P1-8.3 强化学习:动作与奖励:回看通过动作后的奖励进行学习
Module 4. 走向深度学习与生成式 AI¶
Chapter 9. 深度学习范式的扩散 History and Paradigm¶
- P1-9.1 图像识别与表征学习:回看深度学习如何开始直接学习特征
- P1-9.2 目标检测与语音生成案例:把 YOLO 与 WaveNet 当作深度学习扩散的外围证据
- P1-9.3 区分 LLM 的直接谱系与外围证据:把深度学习的扩散与 LLM 的直接发展线区分开来
Chapter 10. 生成式 AI 导论 Concept Definition¶
- P1-10.1 分类、预测与生成的区别:回看生成式 AI 与既有模型用法的差异
- P1-10.2 下一输出生成的直觉:在文本、图像、语音生成之间建立共同直觉
- P1-10.3 生成结果的质量与风险:把生成与幻觉、证据缺失、版权和安全连接起来
Chapter 11. LLM 从哪里来 History and Paradigm¶
这一章是对 LLM 直接谱系的简短预览,更详细的发展历史会在 Part 5 与 Part 6 的相关章节中重新展开。
- P1-11.1 统计语言模型与嵌入:回看 LLM 之前的语言建模背景
- P1-11.2 RNN、Seq2Seq 与 Attention:固定由序列数据和翻译研究带来的几个转折点
- P1-11.3 Transformer 与预训练 LLM:勾勒通向当前 LLM 的直接主线
Module 5. LLM 使用体验的核心元素¶
这个 Module 固定 LLM 使用所需的基础词汇与整体流程。每个主题的更完整说明会在 Part 6 的相关章节继续展开。
Chapter 12. Prompt 基础与使用 LLM 的手感 LLM Core¶
- P1-12.1 Prompt 指定了什么:建立把指令、条件和上下文作为输入给出的基本感觉
- P1-12.2 指令、上下文与示例:整理 prompt 的基本组成部分
- P1-12.3 Prompt 的限制与最初的验证标准:回看 prompt 不能保证什么,以及应如何尽早检查
Chapter 13. 嵌入与向量检索 LLM Core¶
- P1-13.1 把文本表示成向量意味着什么:建立把意义放入数值空间的直觉
- P1-13.2 相似度搜索的直觉:回看寻找相近向量的想法与局限
- P1-13.3 通向 RAG 的问题意识:说明为什么要把检索结果接到 LLM 输入上
- P1-13.4 向量搜索实现的直觉:轻量连接向量数据库、索引与图式近似搜索
Chapter 14. AI 服务架构与执行环境 Service Structure¶
- P1-14.1 模型、应用、数据与工具:分开 AI 服务中的主要部件
- P1-14.2 RAG 与工具使用的位置:回看为什么外部资料和工具调用会变得必要
- P1-14.3 “Agent” 这个词的位置:回看模型如何把多步工作与工具使用连接起来的整体图景
- P1-14.4 MCP 的概念位置:固定 agent 如何连接外部工具与数据的接口流程
- P1-14.5 Harness 与评估执行环境:预览执行、日志、测试、评估与可复现性周边结构
- P1-14.6 AI 服务在现实世界中的约束概览:扫描成本、延迟、使用限制与失败响应
Module 6. 社会议题与应用¶
Chapter 15. AI 伦理、版权与安全 Law and Policy¶
- P1-15.1 偏差、安全与责任:回看 AI 输出所伴随的社会责任
- P1-15.2 版权与训练数据:固定围绕韩国出版物与训练数据争议的审查点
- P1-15.3 安全与隐私:回看输入数据、输出结果与服务运维周围的风险
Chapter 16. 实际应用案例 Project Practice¶
- P1-16.1 个人学习与文档整理:把本书本身作为一个实践应用案例
- P1-16.2 工作自动化与搜索:回看重复性工作、文档检索和摘要生成案例
- P1-16.3 如何通过项目验证理解:整理通过小型产出来检查理解的方式
Chapter 17. AI 的未来 Forecasting¶
- P1-17.1 预测应当使用什么样的证据:固定做预测性写作时所需的证据标准
- P1-17.2 阅读新闻、专栏与报告:回看如何比较带有时间敏感性的外部来源
- P1-17.3 区分预测与工作假设:避免把个人解读写成既定事实
Part 2. 基础恢复¶
这一 Part 不追求把数学完整证明到底,而是恢复阅读 AI 模型计算、并用小代码重现它所需的最小基础。与其把数学记号、Python 运行环境、数据工具、可视化、Git 分开死记,不如把它们重新连成通往 Part 3 数据建模与 Part 4 机器学习的共同基础。
Module 1. 把数学重新读成计算语言¶
Chapter 1. 为什么 AI 需要数学 Mathematical Foundations¶
- P2-1.1 数学在 AI 计算里做什么:把数学介绍成阅读模型计算的语言,而不是只把它当成证明对象
- P2-1.2 公式、代码与数据相遇的位置:建立一种视角,不是把公式孤立地深挖,而是回到代码与数据里再次确认
Chapter 2. 重新阅读公式记号 Mathematical Foundations¶
- P2-2.1 重新阅读变量(variable)、函数(function)、表达式(expression):把很久以前学过的基本记号恢复成阅读 AI 文档的工具
- P2-2.2 Sigma 与重复计算:回看求和符号怎样出现在数据分组、平均值与损失计算里
- P2-2.3 极限(limit)与变化的直觉:把极限更多恢复成通向变化、近似、微分的直觉,而不是精密证明
- P2-2.4 为什么 log 与 exp 会反复出现:在读 log loss、sigmoid、softmax 之前,先把对数与指数重新抓成计算语言
Module 2. 阅读模型计算所需的核心数学¶
Chapter 3. 线性代数在建模什么 Mathematical Foundations¶
- P2-3.1 标量(scalar)、向量(vector)、矩阵(matrix):抓住数据如何变成数字、列表与表格这几种基本表达
- P2-3.2 向量空间(vector space)与位置直觉:建立理解 embedding 与特征表征所需的最小位置直觉
- P2-3.3 矩阵乘法(matrix multiplication)复用了什么:从代码角度回看线性变换与批量计算的意义
- P2-3.4 内积(dot product)、长度(norm)、距离(distance)、相似度(similarity):在进入 k-NN、embedding、向量检索之前,先恢复向量比较标准
- P2-3.5 Python 执行环境:Colab 与本地 PC:区分浏览器里的 Colab 与个人电脑终端运行
- P2-3.6 用 NumPy 确认线性代数:用小代码重现向量、矩阵与矩阵乘法
Chapter 4. 微分是为了找到什么的工具 Mathematical Foundations¶
- P2-4.1 重新回看当初是怎样学微分的:把切线、瞬时变化率、速度、累积这些旧记忆重新拉回当前学习问题
- P2-4.2 变化率(rate of change)与斜率(slope):把微分介绍成阅读函数如何变化的工具
- P2-4.3 微分(derivative)与梯度(gradient):回看寻找让损失变小方向所需的最小概念
- P2-4.4 为什么学习需要微分:只保留进入优化与反向传播之前所需的连接
- P2-4.5 梯度补充学习:从高中微分走到多变量微分:确认为什么梯度会显得陌生,并补强 AI 学习所需的最小多变量微分直觉
- P2-4.6 复合函数(composite function)与链式法则(chain rule):在阅读反向传播之前,先恢复函数经过多个步骤连接时变化率如何传递
Chapter 5. 为什么需要概率与统计 Mathematical Foundations¶
- P2-5.1 概率(probability)怎样把不确定性表示成数字:把概率重新恢复成处理未知状态的数字语言
- P2-5.2 分布(distribution)、平均(mean)、方差(variance):回看概括一组数据形状的基本工具
- P2-5.3 样本(sample)、估计(estimation)、误差(error):回看统计究竟是在从数据里估计什么
- P2-5.4 用小数据确认概率与统计:通过代码与图表确认平均值、方差与分布
- P2-5.5 补充学习:第一次怎样读标准差、相关、置信区间:补上第一次重新遇见统计术语时需要的最小解释标准
Chapter 6. 优化在解什么问题 Learning Principles¶
- P2-6.1 优化(optimization)在寻找什么:把优化理解成寻找更好数值的问题,而不是直接把正确答案写出来
- P2-6.2 损失函数与目标函数:回看模型用什么标准来表达自己想减少或增大的东西
- P2-6.3 梯度下降(gradient descent)的直觉:在不进入复杂证明的前提下,抓住反复调整数值的流程
Module 3. 运行环境与 Python 基础¶
Chapter 7. 学习环境设置 Software Tools¶
- P2-7.1 本地环境(local environment)与运行环境(runtime):先抓住代码究竟在哪里运行,以及本地 PC 与外部 runtime 的差别
- P2-7.2 终端(terminal)、shell、工作目录(working directory):解释命令输入在哪里,以及当前路径为什么重要
- P2-7.3 Python 解释器(interpreter)与脚本(script):回看 Python 代码怎样运行,以及文件执行与交互式执行的差别
- P2-7.4 虚拟环境(virtual environment)与包(package):回看项目级执行空间,以及 NumPy、Pandas 这类包怎样接进去
- P2-7.5 依赖(dependency)与可复现性(reproducibility):整理在另一台机器上重跑同一练习所需的条件
- P2-7.6 补充学习:不同操作系统中的终端入口:单独整理不同操作系统里如何打开终端、基本命令差异、练习前检查步骤
- P2-7.7 补充学习:什么时候需要安装 Python:说明从 Colab 起步后,什么时候才需要在本地 PC 安装 Python
- P2-7.8 补充学习:阅读 shell 执行流程:补上终端练习里常见的语法
- P2-7.9 补充学习:检查本地 Python 环境问题:整理安装与执行对不上时应该先检查什么
Chapter 8. 复习 Python 核心语法 Software Tools¶
- P2-8.1 值(value)、变量(variable)、类型(type):把 Python 语法恢复到足够支撑数学计算与数据处理的程度
- P2-8.2 列表(list):有顺序的值集合:确认有顺序的数据集合与列表初始化模式
- P2-8.3 字典(dictionary):通过键(key)找值的结构:回看键值映射与实作里常见的 map 模式
- P2-8.4 循环(loop):逐项处理 iterable:区分项迭代、索引迭代、键值迭代与筛选式迭代
- P2-8.5 函数(function)与小规模复用:回看数学里的函数与 Python 函数有什么相似与不同
- P2-8.6 补充学习:第一次遇见类(class)与对象(object):慢慢读对象、类、方法、
self,以及像model.fit()这样的库调用 - P2-8.7 补充学习:区分引用与拷贝:补上避免值一起变化混淆所需的最小标准
Chapter 9. 数据结构与图(graph)的直觉 Software Tools¶
- P2-9.1 为什么需要数据结构(data structure):回看数据被装成什么形状,会如何影响计算方式
- P2-9.2 数组(array)、表(table)、树(tree)、图(graph)的直觉:轻量区分 AI 与检索里常见的几种结构
- P2-9.3 图(graph)怎样表示关系:建立用节点(node)与边(edge)表示关系的最小直觉
- P2-9.4 补充学习:第一次怎样读传统数据结构:不以实现细节,而是按思路流程来快速扫过数组、链表、栈、队列、树、图、哈希表
Chapter 10. Jupyter 与 Colab Notebook Software Tools¶
- P2-10.1 为什么 notebook 对学习有用:回看把代码、结果与说明放在一起的方式有什么优缺点
- P2-10.2 Jupyter、Colab 与本地执行的差异:整理执行位置、文件访问、练习记录方式的不同
- P2-10.3 把 notebook 整理成可重跑的记录:整理执行顺序、依赖处理、数据准备与分享时的注意点
Module 4. 数据计算与可视化工具¶
Chapter 11. 用 NumPy 复用向量与矩阵 Software Tools¶
- P2-11.1 用 NumPy array 建立向量与矩阵:把线性代数记号重现成真实数组计算
- P2-11.2 indexing、slicing、axis:建立阅读数组位置与方向的基本感觉
- P2-11.3 broadcasting 与 vectorization:回看如何不用显式循环,而改为按数组整体计算
- P2-11.4 补充学习:在 NumPy 里一起阅读 shape 与原对象共享:补上为什么 view/copy、
shape、newaxis很容易一起混淆
Chapter 12. 用 Pandas 处理数据结构 Software Tools¶
- P2-12.1 Pandas DataFrame 在表示什么:回看表格式数据怎样由行(row)、列(column)、索引(index)构成
- P2-12.2 选择、过滤、聚合:恢复数据分析里反复使用的基本操作
- P2-12.3 准备学习用数据集(dataset)的直觉:回看模型学习前为什么需要整理并切分数据
Chapter 13. 用 Matplotlib 可视化概念 Software Tools¶
- P2-13.1 图(plot)会显露什么:在数字表之外,用视觉去确认看不见的模式
- P2-13.2 确认基础图表与公式形状:用折线图、散点图、直方图确认函数、分布与损失变化
- P2-13.3 比较并保存多张图:回看怎样摆放多个 Axes 比较相关图形,并把结果保存成文件
Module 5. 可复现性与综合复习¶
Chapter 14. Git 与文档管理 Software Tools¶
- P2-14.1 Git 是管理变更历史的工具:建立能回看学习文档与代码变化的基本概念
- P2-14.2 branch、commit、文档可复现性:把这本书的 dev/main 运营流程,与原稿和依据资料管理标准连起来
Chapter 15. 用软件再看数学 Project Practice¶
- P2-15.1 把公式搬成代码的小步骤:整理把一个数学记号转成 Python 计算的顺序
- P2-15.2 进入 Part 3 之前的检查:检查进入数据建模前所需的数学与软件感觉
Part 3. 数据建模¶
这一 Part 讨论的不是把原始数据直接塞进模型,而是重新把问题整理成可以表达的样本与表结构的过程。这里也会顺带指出:在数据建模之前,还有像 DSS / BI / DW / OLAP 这样把数据汇集起来并连到决策的更早一层数据系统脉络。Part 2 与 Part 3 共同构成基础检查区段,而 Part 3 作为 为 Part 4、5、6 补上数据科学基本功的 Part,会先把存储结构、样本单位、事件数据与时间记录、基准线比较、特征设计、解释边界这些东西立起来,也会在 Chapter 5、8、9 里把后面 Part 所需的前提一起闭住。
Module 1. 角色与问题场景¶
Chapter 1. 数据建模想达成什么,又按什么顺序进行 Modeling Perspective¶
- P3-1.1 数据建模想达成什么:先抓住原始数据应当被重新设计成什么样的样本、特征、比较、输出结构
- P3-1.2 数据建模按什么顺序进行:先看建立问题、样本、表、特征、基准线、输出结构的基本顺序
- P3-1.3 数据问题该怎样写,才能比模型名字更早看见问题结构:整理怎样写出一种问题句子,让样本单位、比较标准、结果形式先于模型名字显出来
Chapter 2. 先读取存储结构与设计轴 Modeling Perspective¶
- P3-2.1 为什么存下来的记录还不能立刻算作数据集:回看仅凭存储结构,还不能说已经得到一个可比较的数据集
- P3-2.2 数据集候选里会包含什么结构:回看样本、特征、基准线、输出结构怎样被捆在一起
- P3-2.3 第一次拿到一张新表时,应该先写下什么:整理一种读表笔记,先检查行的意义、标识符、时间/顺序列与可比较性
Chapter 3. 数据集不是一开始就给好的 Modeling Perspective¶
- P3-3.1 为什么不能立刻把原始数据读成学习问题:先整理把记录结构误当成学习结构时,会漏掉哪些问题
- P3-3.2 怎样按问题重新设计一个数据集:回看数据集其实是按问题重新做出来的结构
- P3-3.3 如果要把问题先搬成第一版表草图,应该先画哪些列:整理怎样先从标识列、特征候选列、比较列、结果列画出第一版表草图
Module 2. 样本与表结构¶
Chapter 4. 怎样确定样本单位 Modeling Perspective¶
- P3-4.1 怎样确定一条可比较的样本:区分一行记录与一条样本,并确定比较单位
- P3-4.2 一旦样本单位摇晃,什么会一起摇晃:回看特征、标签、评估其实都建立在样本单位之上
- P3-4.3 一行、一个样本、一段近期区间到底有什么不同:把时点记录、一次动作、一个近期汇总区间放在同一画面里重新区分,减少层次混乱
- P3-4.4 什么信号说明样本单位抓错了:检查像重复标签、无法解释的特征、别扭的报告句子这类误判信号
- P3-4.5 当前收集到的样本,对整体运营情境有多大代表性:整理即使样本单位本身是对的,只要时间、模式、设备范围过窄,代表性仍会变弱
Chapter 5. 怎样把原始日志变成汇总表 Modeling Perspective¶
- P3-5.1 怎样把原始日志变成可比较的表:回看从原始日志走向汇总表与聚合表的过程
- P3-5.2 汇总表怎样留下平均值之外的模式:回看怎样在汇总表里留下平均值遮住的结构差异
- P3-5.3 即使手上有原始时间序列,为什么也不能立刻说那就是学习输入:整理原始时间序列与学习输入之间的差别,以及输入边界的决定
- P3-5.4 输入窗口(window)该从哪里切、长度又该怎样对齐:讨论怎样按问题来决定时间序列输入的起点、终点、长度标准与对齐标准
- P3-5.5 遇到值缺失或区间空掉的样本时该怎么处理:整理怎样区分部分值缺失、整段区间缺失、样本边界崩塌,并判断是否要把“缺失本身”留下成结构信息
- P3-5.6 重叠输入窗口与样本数:区分输入窗口数量与原始事件数量,并整理窗口重叠怎样让表结构看起来被放大
- P3-5.7 折叠多个后续事件的规则:整理
any、first、worst、count这类折叠规则会怎样改变结果表的含义
Module 3. 特征与比较结构¶
Chapter 6. 怎样设计特征与中间表征 Modeling Perspective¶
- P3-6.1 应该把可比较的结构留下成什么特征:回看平均值、斜率、波动性这类数值特征应该留下什么
- P3-6.2 当光靠特征还不够时,还能加什么中间表征:回看 segment 表征与 tokenization 需要到什么程度
- P3-6.3 人工设计的特征与后面会学习到的表征怎样衔接:整理特征设计与表征学习之间的连接与边界
- P3-6.4 为什么汇总表里的所有列都不一定是特征:整理一种标准,把同一张汇总表里的列分开读成特征、比较项、结果候选、标识/语境
- P3-6.5 单位与量级不同的特征,怎样一起阅读并留下:整理阅读特征表数字时,不只看绝对大小,而要连同单位、角色、比较标准一起解释
- P3-6.6 相同列名与不同特征:整理一种标准,避免把单位、传感器版本、计算规则、运营定义已经变化的列混成同一个特征
Chapter 7. 怎样阅读基准线比较结构 Modeling Perspective¶
- P3-7.1 必须把留下来的结构拿去和什么比较,变化才会显现:回看基准线本身就是比较结构的一部分
- P3-7.2 怎样把比较表读成人工复核句子:回看把近期区间与基准线比较表改写成人工复核句子的顺序
- P3-7.3 为什么基准线比较与基准模型不是一回事,但两者又都需要:整理数据比较标准与模型评估标准的差别
- P3-7.4 基准线应该按什么区间与条件来定:整理选择基准线时,怎样对齐样本单位、工况条件与样本数量
- P3-7.5 基准线应该固定,还是按近期平常状态不断更新:整理固定基准线与近期平常基准线分别更适合什么问题
Module 4. 解释边界¶
Chapter 8. 怎样阅读样本数与重复性 Modeling Perspective¶
- P3-8.1 用什么调节解释强度:回看怎样随着样本数与重复性不同,调整说法的力度
- P3-8.2 变化信号能说到哪里,原因又该停在哪里:回看变化信号与原因定论之间的边界
- P3-8.3 保守解释句子该按什么顺序与词语来写:整理怎样把比较结果、强度条件、下一步动作留下成句子骨架
- P3-8.4 保守解读与运营列:整理解释句子怎样继续连成
warning_level、review_needed、priority_score这类结构化运营输出 - P3-8.5 多个比较列怎样绑成一个复核优先级候选:整理怎样不只看一个差值,而是把变化幅度、重复性、解释可信度、运营重要度一起绑成复核候选
- P3-8.6 只留在部分案例上的确认标签:整理怎样把复核路径与偏置一起写进去,避免把选择性贴上的标签当成整体事件代表
- P3-8.7 运营介入改变的数据解读:整理一种解释边界,避免把干预后的数据与自然演化读成同一种意思
Module 5. 问题类型与后续 Part 连接¶
Chapter 9. 怎样把某个问题做成预测问题 Modeling Perspective¶
- P3-9.1 当前问题应该抬到哪一层:区分 warning、复核候选、目标标签候选之间的层次
- P3-9.2 为什么有些问题应该一直留下成比较报告而不是直接做预测:回看有些场景里比较报告比预测更合适
- P3-9.3 三种运营表的差异:回看同一份数据怎样分叉成三种产出物
- P3-9.4 复核结果怎样从运营备忘慢慢变成目标标签候选:整理复核笔记与运营判断反复累积后,怎样沉淀成更稳定的 target 候选列
- P3-9.5 即使跨多个产出物,同一个事件应该靠什么持续追踪:整理为什么即便比较报告、复核队列、目标标签候选表不同,也要维持相同样本标识与最小依据
- P3-9.6 检查标签一致性:整理为什么即使已经有目标标签候选列,也必须先检查标签意义是否一致
- P3-9.7 把输入与结果交给后续 Part 之前,必须先闭住什么:把输入/结果区分、防止泄漏、运营时点可复现性、cutoff 与 horizon 一次整理清楚
- P3-9.8 一次预测实际决定了什么,为什么分数与政策不是一回事:把预测单位、模型输出、运营政策、真实动作分开整理
- P3-9.9 怎样区分真实目标与代理 target:区分当前在用的 target 到底是真正目标,还是暂时替代它的代理列
- P3-9.10 标签延迟确认与未完成的负类:整理怎样把标签确认延迟,与观察尚未结束的负类分开写下
- P3-9.11 target 候选与变化的标准:整理为什么必须先固定代表 target 与定义版本
- P3-9.12 target 名称与错误成本:整理为什么要先写出 false negative 与 false positive 在运营成本上的差别
- P3-9.13 交给 Part 4 之前的问题边界:这里只先抓住这些名称与必要性,把它们留给后面 Part 正文里的评估与问题类型章节
Part 4. 机器学习¶
这一 Part 会把“从数据里学习规则”这句话真正恢复出它的含义。与其先背算法列表,不如先抓住数据切分、评估、泛化、过拟合。
Module 1. 机器学习的位置¶
Chapter 1. 区分 AI、机器学习、深度学习 Concept Definition¶
- P4-1.1 AI、机器学习、深度学习之间的关系:把 Part 1 里的地图重新接到机器学习学习流程上
- P4-1.2 从数据中学习规则是什么意思:从机器学习视角整理手写规则与学习式方法之间的差别
Chapter 2. 监督学习、无监督学习、强化学习 Learning Principles¶
- P4-2.1 监督学习(supervised learning):回看学习输入与标签关系这一基本问题
- P4-2.2 无监督学习(unsupervised learning):回看在没有标签时寻找结构的问题
- P4-2.3 强化学习(reinforcement learning):回看通过动作与奖励学习策略的问题
Chapter 3. 为什么需要启发式 Practical Heuristics¶
- P4-3.1 为什么需要启发式(heuristic):回看为什么有些场景需要的不是完整最优解,而是实用判断标准
- P4-3.2 启发式与模型选择:回看怎样把经验规则当成可验证的起点
Module 2. 数据与评估¶
Chapter 4. 数据切分与验证 Learning Principles¶
- P4-4.1 训练数据与评估数据:解释为什么要把数据分开
- P4-4.2 验证(validation)与测试(test):区分挑选模型的过程与最终确认
Chapter 5. 过拟合与泛化 Learning Principles¶
- P4-5.1 过拟合(overfitting)与欠拟合(underfitting):回看模型过度贴合数据或学习不足时的状态
- P4-5.2 泛化(generalization):整理“在没见过的数据上也能正常工作”到底是什么意思
Chapter 6. 评估指标 Learning Principles¶
- P4-6.1 评估指标(metric)的角色:先抓住 accuracy、precision、recall 这类指标究竟在看什么
- P4-6.2 不同问题类型的评估标准:回看为什么分类、回归、聚类的评估方式会不同
- P4-6.3 补充学习:第一次怎样在站点可靠性工程里阅读 metrics:补充机器学习评估指标与运营指标有何不同
- P4-6.4 补充学习:评估指标的问题地图:把常见但陌生的评估指标放回大图景里区分
Module 3. 实务启发式¶
Chapter 7. 特征选择与预处理启发式 Practical Heuristics¶
- P4-7.1 特征选择(feature selection):回看按什么标准决定把哪些输入交给模型
- P4-7.2 预处理(preprocessing):回看处理缺失值、尺度、类别型数据的基本判断
- P4-7.3 补充学习:区分预处理中的输入问题:补充一种感觉,不是按技术名,而是按输入问题来区分预处理种类
- P4-7.4 补充学习:区分特征选择方式:补充避免把特征选择与降维混在一起的标准
Chapter 8. 模型选择启发式 Practical Heuristics¶
- P4-8.1 模型选择(model selection):回看按什么标准缩小符合问题与数据的模型候选
- P4-8.2 基准模型(baseline):回看为什么在复杂模型之前必须先立 baseline,以及如何解释分数
- P4-8.3 补充学习:按问题类型第一次怎样立 baseline:回看在分类、回归、时间序列里,怎样按步骤与例子建立代表性 baseline
Chapter 9. 超参数调优 Practical Heuristics¶
- P4-9.1 超参数(hyperparameter):区分那些不会通过学习本身改变的设定值
- P4-9.2 调优(tuning)与验证成本:回看性能改进与计算成本之间的平衡
- P4-9.3 补充学习:模型选择之后的工具地图:补充调优自动化与实验管理工具在整体流程中的位置
Module 4. 基础算法¶
Chapter 10. 线性回归 Algorithms¶
- P4-10.1 线性回归(linear regression)的直觉:回看预测连续值的最基本模型
- P4-10.2 线性回归的评估与局限:回看残差、误差与线性假设的限制
- P4-10.3 补充学习:第一次怎样读回归诊断(regression diagnostics):补充第一次看残差模式与假设检查时需要的标准
Chapter 11. 逻辑回归 Algorithms¶
- P4-11.1 逻辑回归(logistic regression)的直觉:回看分类问题里那种能被读成概率的输出
- P4-11.2 决策边界(decision boundary):回看分类模型会形成边界这一视角
- P4-11.3 补充学习:第一次怎样读 log-odds 与 MLE:补强为什么概率解释与学习目标会接在同一章里
- P4-11.4 补充学习:怎样读多类别(multinomial)逻辑回归:回看二分类直觉怎样扩成多类别概率比较
- P4-11.5 补充学习:第一次怎样读 solver 与 regularization:回看为什么即使都是逻辑回归,也要把学习计算与正则设定一起记录
Chapter 12. k-NN Algorithms¶
- P4-12.1 k-NN 的直觉:回看邻近数据怎样影响判断
- P4-12.2 距离(distance)与尺度(scale):回看定义“接近”时会出现什么问题
- P4-12.3 使用 k-NN 时应该先检查什么:整理面对 k-NN 时,应该先回头看距离规则、
k还是数据表征
Chapter 13. SVM Algorithms¶
- P4-13.1 SVM 的直觉:围绕边界与间隔(margin)理解分类
- P4-13.2 kernel 的入门意义:只简单回看处理非线性边界的核心想法
Module 5. 树与集成¶
Chapter 14. 决策树 Algorithms¶
- P4-14.1 决策树(decision tree):回看按提问不断分叉来做预测的模型
- P4-14.2 树的过拟合:回看树枝越来越深时会出现的问题
Chapter 15. 随机森林 Algorithms¶
- P4-15.1 随机森林(random forest):回看怎样把多棵树合起来提高稳定性
- P4-15.2 特征重要度(feature importance):回看模型解释的入门视角
- P4-15.3 OOB(out-of-bag) 与随机森林检查:回看怎样把 train、OOB、test 一起阅读
- P4-15.4 补充学习:比较 Extra Trees 与随机森林:比较同样是 forest 系里,split 随机化、bootstrap 默认值、OOB 可用条件怎样不同
Chapter 16. 梯度提升 Algorithms¶
- P4-16.1 梯度提升(gradient boosting):回看按顺序逐步补强弱模型的流程
- P4-16.2 boosting 的性能与风险:一起看高性能与调优敏感性
- P4-16.3 补充学习:第一次从实现与运营角度把 boosting 库放在一起看:回看 XGBoost、LightGBM、CatBoost 与 GPU、自动化感觉怎样第一次被捆在一起
Module 6. 发现结构¶
Chapter 17. 聚类 Algorithms¶
- P4-17.1 聚类(clustering)的直觉:回看把相似数据聚在一起的问题
- P4-17.2 解读聚类结果时的注意点:整理聚类结果并不等于正确标签
- P4-17.3 补充学习:层次聚类与谱聚类:重新绑回中心、密度、顺序、连接这些不同的聚类直觉
- P4-17.4 补充学习:第一次怎样把聚类接到半监督学习上:补充一种标准,把聚类读成标签假设与复核优先级,而不是自动标签
Chapter 18. 降维 Algorithms¶
- P4-18.1 降维(dimensionality reduction):回看为什么要把很多特征压成更少的轴
- P4-18.2 可视化与信息损失:一起看更好理解的图形与原始信息损失
Chapter 19. 强化学习算法 Algorithms¶
- P4-19.1 价值型强化学习:通过 Q-learning 与 SARSA 回看学习状态与动作价值的视角
- P4-19.2 策略型强化学习:通过 policy gradient 与 actor-critic 回看直接调整策略的视角
- P4-19.3 强化学习应用时的注意点:整理奖励设计、探索成本、模拟与现实之间的差异
- P4-19.4 补充学习:强化学习后续分支地图:重新把代表性强化学习系列放回整体脉络
- P4-19.5 补充学习:第一次读强化学习中的公式名称:第一次把价值型强化学习的递归价值式与大状态空间扩展背景连起来
- P4-19.6 补充学习:第一次读 policy gradient:第一次把策略型公式为什么会写成对数概率梯度形式连起来
Part 5. 深度学习¶
理解神经网络如何表示并学习数据。从感知机出发,沿着反向传播、优化、表示学习、CNN、RNN、Transformer 与生成模型这条主线继续前进。
Module 1. 神经网络的起点¶
Chapter 1. 感知机 Deep Learning Structure¶
- P5-1.1 感知机(perceptron)的直觉:观察输入、权重与输出之间最简单的流动关系。
- P5-1.2 线性组合与激活:观察感知机如何形成判断边界。
Chapter 2. 多层神经网络 Deep Learning Structure¶
- P5-2.1 多层神经网络(multilayer neural network):观察为什么要把多层结构堆叠起来。
- P5-2.2 隐藏层(hidden layer)与表示:抓住中间表示逐渐形成的直觉。
Module 2. 输出、损失与反向传播¶
Chapter 3. 激活函数 Deep Learning Structure¶
- P5-3.1 激活函数(activation function):观察为什么需要加入非线性。
- P5-3.2 sigmoid:观察把分数压到 0 到 1 之间的函数公式与直觉。
- P5-3.3 tanh:观察 -1 到 1 之间的 0 中心表示。
- P5-3.4 ReLU:观察截断负数、通过正数的规则。
- P5-3.5 代表激活函数公式比较:并排比较 sigmoid、tanh、ReLU 的公式与输出范围。
- P5-3.6 输出层(output layer)与激活的选择:观察为什么最后输出的解释会随问题类型而变化。
Chapter 4. 损失函数 Learning Principles¶
- P5-4.1 损失函数(loss function):观察用什么标准把模型的错误写成数字。
- P5-4.2 不同问题类型的损失:观察回归、分类、生成为何会使用不同损失。
Chapter 5. 反向传播 Deep Learning Structure¶
- P5-5.1 反向传播(backpropagation)的直觉:观察误差如何传回前面的权重。
- P5-5.2 计算图(computation graph):把复杂微分重新读成一条计算流程。
Module 3. 学习循环与稳定化¶
Chapter 6. 分开学习(learning)与模型执行(inference) Learning Principles¶
- P5-6.1 学习循环的四个步骤:区分改变参数的阶段与使用参数的阶段。
- P5-6.2 学习 step、batch、epoch:区分训练循环在真实数据上反复运行时使用的重复单位。
- P5-6.3 学习(learning)与模型执行(inference):区分会改变参数的阶段与只使用当前参数的阶段。
- P5-6.4 训练模式(training mode)与评估模式(evaluation mode):为后面理解 dropout、batch normalization 的差异先做准备。
Chapter 7. 优化器 Learning Principles¶
- P5-7.1 优化器(optimizer)的作用:观察 gradient 在哪里变成实际参数 update。
- P5-7.2 学习率(learning rate)与 update 步幅:观察同一个 gradient 为什么会得到过小或过大的 update。
- P5-7.3 Adam 的直觉:自适应 update:说明 Adam 如何在简单 update 基准上加入自适应调节。
- P5-7.4 补充学习:区分 adaptive optimization 的主张:区分收敛保证与实务表现主张。
Chapter 8. 正则化与 dropout Learning Principles¶
- P5-8.1 正则化(regularization):观察用于降低过拟合的约束方式。
- P5-8.2 dropout:观察训练时临时断开部分连接的直觉。
- P5-8.3 补充学习:深层计算的稳定条件:把初始化、数值稳定性与批归一化连接成让深层计算更稳定的条件。
Module 4. 计算环境与表示学习¶
Chapter 9. GPU 与并行处理 History and Paradigm¶
- P5-9.1 GPU 与并行处理:观察计算资源在深度学习扩散中扮演了什么角色。
- P5-9.2 batch 与 tensor 计算:观察如何同时处理大量数据。
Chapter 10. 表示学习 Deep Learning Structure¶
- P5-10.1 表示学习(representation learning):比较人工编写特征与模型自己学习表示的方式。
- P5-10.2 深层表示:观察从低层特征走向高层表示的直觉。
Module 5. 空间结构与 CNN¶
Chapter 11. CNN Algorithms¶
- P5-11.1 CNN 的直觉:观察如何在图像中读取局部模式。
- P5-11.2 卷积(convolution)与池化(pooling):简要观察 CNN 的核心运算。
- P5-11.3 补充学习:比较 CNN 与 Vision Transformer:简短整理学习 CNN 之后该用什么视角继续比较后续视觉结构。
Module 6. 序列结构与 RNN 系列¶
Chapter 12. RNN、LSTM、GRU Algorithms¶
- P5-12.1 RNN、LSTM、GRU 的必要性:观察为了处理序列数据为什么出现这些结构。
- P5-12.2 长期依赖(long-term dependency):观察很早之前的信息为什么会逐渐消失。
Module 7. 从 Attention 到 Transformer¶
Chapter 13. Attention Deep Learning Structure¶
- P5-13.1 Attention 的直觉:观察把注意力更集中到关键位置的方法。
- P5-13.2 通向 self-attention 的流程:先抓住通往 Transformer 的连接。
- P5-13.3 补充学习:QKV 与 multi-head attention:补足第一次区分 Attention 内部组成元素时需要的标准。
Chapter 14. Transformer Deep Learning Structure¶
- P5-14.1 不能只靠 attention 解释的 Transformer:观察 attention、feed-forward、layer norm 分别在什么位置。
- P5-14.2 并行处理与长上下文:观察 Transformer 与 RNN 不同的关键点。
Module 8. 生成模型与采样¶
Chapter 15. 生成模型的直觉 Deep Learning Structure¶
- P5-15.1 从深度学习视角看生成式 AI 时,什么会改变:准备 Part 6 深入分析生成式 AI 前需要的输出视角。
- P5-15.2 生成模型的候选分布:从候选空间和相对可信度来阅读生成。
- P5-15.3 采样(sampling)怎样从候选分布中取出实际输出:观察实际输出怎样从候选分布中被选出,以及质量为什么会波动。
Part 6. LLM 与生成式 AI¶
Part 6 从生成式 AI 的产出物出发,以 LLM 作为代表案例来阅读,并把 token、embedding、下一个候选生成结构、学习与调节、prompt 与证据补强、工具和 agent 执行、评价与运营连接起来。发展史与 BERT 系列放在主线之后,作为背景地图与比较轴。
Module 1. 从 LLM 进入生成式 AI¶
Chapter 1. 生成式 AI 与 LLM 的位置 LLM Core¶
- P6-1.1 为什么生成式 AI 输出是需要检查的产出物:抓住生成结果不是分类值或数值预测,而是需要被检查的产出物。
- P6-1.2 为什么以 LLM 为中心案例来读:观察为什么把 LLM 当作代表路径,而不是把它等同于全部生成式 AI。
- P6-1.3 生成是候选分布与选择的反复:把 Part 5 的候选分布与 sampling 直觉接回 LLM 生成流程。
Module 2. 文本生成的输入单位与表示¶
Chapter 2. token 与分词 LLM Core¶
- P6-2.1 为什么要按 token 单位阅读 LLM 输入与输出:观察输入与输出为什么会在成本、长度限制和上下文保留上受到 token 单位约束。
- P6-2.2 token 与 token ID 在模型输入中怎样使用:把字符串、token、token ID 序列放在同一流程中区分。
- P6-2.3 分词(tokenization)会改变什么:观察分词怎样改变长度、成本、chunk 与输出解释。
- P6-2.4 token 视角会带来哪些运营判断:把 token 标准应用到 prompt 长度、RAG chunk、成本预算与输出格式设计。
- P6-2.5 补充学习:tokenizer 系列差异什么时候显现:把 BPE、WordPiece、SentencePiece 的差异读成运营观察值。
Chapter 3. embedding LLM Core¶
- P6-3.1 embedding 如何把 token ID 变成可比较的坐标:观察 token ID 为什么会变成可计算的向量表示。
- P6-3.2 为什么近向量只是候选而不是答案:观察相近表达成为近候选的直觉及其边界。
- P6-3.3 补充学习:embedding 学习要把什么放得更近:观察什么应该被学得更近,什么应该被推得更远。
- P6-3.4 补充学习:ANN 检索怎样在速度与候选遗漏之间取舍:观察快速缩小接近候选时出现的速度与候选遗漏取舍。
Module 3. 制造下一个候选的 LLM 结构¶
Chapter 4. 复习 Transformer 结构 Deep Learning Structure¶
- P6-4.1 LLM 内部的 Transformer 计算流程:把 Transformer 重新读成上下文反映、表示更新与下一个候选打分的流程。
- P6-4.2 attention 的参照范围:观察模型在有限范围内计算关系这一点。
- P6-4.3 补充学习:attention head 与位置表示:区分顺序信息与多个关系轴。
- P6-4.4 补充学习:KV cache 与重复生成:观察反复生成的重算负担。
- P6-4.5 补充学习:长上下文与稀疏 attention:区分连接数量控制与长上下文保持。
Chapter 5. GPT 系列 LLM Core¶
- P6-5.1 GPT 系列怎样成为 decoder 中心的累积生成结构:观察 decoder 中心的自回归生成系列的位置。
- P6-5.2 对话式 LLM 体验在生成结构之上加了什么:观察 instruction following 与产品界面怎样改变使用体验。
Chapter 6. 下一个 token 预测与生成 LLM Core¶
- P6-6.1 下一个 token 预测如何成为长文本生成的起点:观察下一个 token 分布这个局部目标为什么能连接到长文本生成。
- P6-6.2 输出选择规则为什么会改变回答的稳定性与多样性:观察 greedy、sampling、temperature 怎样改变稳定性与多样性。
Module 4. 形成回答习惯的学习与调节¶
Chapter 7. 预训练 Learning Principles¶
- P6-7.1 预训练为什么先建立广泛的语言基础:观察大规模文本怎样形成通用语言基础。
- P6-7.2 规模为什么会同时增加能力与负担:把规模读成同时增加能力与运营负担的轴。
Chapter 8. 微调 Learning Principles¶
- P6-8.1 什么时候需要用微调做目标适配:观察基础模型怎样被调向特定目标或领域。
- P6-8.2 LoRA 为什么要降低完整微调的负担:观察缩小调节范围怎样改变成本与迭代速度。
Chapter 9. 指令微调与对齐 LLM Core¶
- P6-9.1 指令微调如何形成符合请求格式的回答习惯:观察遵循用户指令的回答习惯。
- P6-9.2 对齐为什么要区分遵循指令与可接受回答:同时观察有用性、安全性、事实性与拒答标准。
- P6-9.3 什么时候选择 prompt、微调、RAG 或工具使用:按失败原因选择补强手段。
- P6-9.4 补充学习:adapter、LoRA、QLoRA 在什么约束下分开:按成本、结构与内存约束区分高效调节名称。
Module 5. prompt 与证据补强¶
Chapter 10. Prompt 工程 LLM Core¶
- P6-10.1 prompt engineering 在输入中调整什么:观察怎样用指令、上下文、示例与输出格式引导生成。
- P6-10.2 prompt 局限何时转向系统结构:观察新近性、证据性、计算、执行与可复现性为什么不能只靠 prompt 解决。
- P6-10.3 补充学习:观察与比较回答路径:区分 prompt 层补强策略及其边界。
Chapter 11. RAG Service Structure¶
- P6-11.1 RAG 为什么要在回答前接入外部证据:观察把外部证据作为输入上下文接上去,而不是增加模型内部记忆的结构。
- P6-11.2 检索结果如何进入生成输入并形成回答:区分检索失败与生成失败。
Chapter 12. 向量数据库 Service Structure¶
- P6-12.1 向量数据库为什么也保存原文和 metadata:观察把 embedding 与 payload、metadata 一起保存并检索的结构。
- P6-12.2 index 为什么同时影响检索速度与候选质量:观察检索质量与 latency 的 trade-off。
Module 6. 工具与 agent 执行结构¶
Chapter 13. 工具使用(tool use) Service Structure¶
- P6-13.1 工具使用何时需要真实查询、计算或执行:观察需要查询、计算、文件处理或状态确认的场景。
- P6-13.2 函数调用为什么把执行请求拆成名称与参数:观察自然语言请求怎样被结构化成函数名与参数。
Chapter 14. agent Service Structure¶
- P6-14.1 agent 何时成为重新选择下一步行动的目标流程:观察把目标连接到计划、工具调用、观察与状态判断的结构。
- P6-14.2 计划、行动、观察如何区分继续、结束与人工检查:观察 agent loop 中继续探索、结束与人工检查的分支。
Chapter 15. MCP 与 harness Service Structure¶
- P6-15.1 MCP 为什么用共同形式连接工具与资源:观察用共同形式连接工具与资源的接口层。
- P6-15.2 harness 为什么要用记录和可复现环境包住执行:观察包住执行、日志、评价输入、批准与可复现性的环境。
Module 7. 可检查的服务状态¶
Chapter 16. LLM 评价 LLM Core¶
- P6-16.1 LLM 评价为什么要区分自然回答与质量标准:区分自然回答与质量标准。
- P6-16.2 自动评估与人工评估的分工:观察重复检查与语境判断的分工。
Chapter 17. 服务运营约束 Service Structure¶
- P6-17.1 服务运营约束为什么还要重新筛选已通过评价的候选:观察成本、延迟、吞吐量与使用限制。
- P6-17.2 运营中的失败应对为什么要把错误分成恢复路径:把 hallucination、timeout、权限错误、format mismatch 分成恢复路径。
Chapter 18. 把一个小型生成式 AI 功能绑成一条流程 Project Practice¶
- P6-18.1 小型生成式 AI 功能如何变成一条请求流程:把问题、证据、回答、状态判断与记录绑成一个流程。
- P6-18.2 最小实现为什么要先留下执行记录而不只是回答:在进入 Part 7 前,收束为什么回答、依据、状态与回顾记录必须一起留下。
Module 8. 背景地图与比较¶
Chapter 19. LLM 发展史 History and Paradigm¶
- P6-19.1 LLM 发展史为什么要按局限与结构转换来阅读:观察从统计语言模型到 GPT 式界面的变化。
- P6-19.2 为什么要分开阅读直接谱系与周边依据:区分 LLM 直接谱系与深度学习扩散的周边依据。
Chapter 20. BERT 系列 LLM Core¶
- P6-20.1 BERT 系列为什么是阅读中心 Transformer 的比较轴:比较 GPT 生成系列与 BERT 理解系列。
- P6-20.2 理解中心任务为什么先输出判断值而不是长回答:观察分类、句子对判断、搜索与排序、embedding 复用。
Part 7. 项目¶
Part 7 不是独立的新理论 Part,而是把前面介绍过的内容拿来实作的空间。前段处理问题、输入单位、baseline 和比较实验;中段解释输入结构、学习曲线和错误案例;后段则通过日志与失败记录来检查 RAG、agent 以及部署和运营判断。
Module 1. 问题与基准线¶
Chapter 1. 分析起点与基准线设计 Project Practice¶
- P7-1.1 项目问题与输入定义:说明即使使用同一份数据,只要预测目标或样本单位不同,项目就会变得不同,数据准备和实验设计也会一起改变。
- P7-1.2 baseline 与第一次比较:用比较表和失败案例说明,解读模型表现时应先看
它比什么更好,而不是它看起来有多好。 - P7-1.3 练习重新设计基准线:比较改变基准线分界日与比较单位后,回顾开头和结论会怎样变化。
Chapter 2. 传统机器学习的比较与改进 Project Practice¶
- P7-2.1 阅读比较表与错误案例:把预测结果比较表和代表性错误案例放在一起解读,而不是只看一个分数。
- P7-2.2 回顾与下一个问题:把一次实验整理成
事实、解释、下一个问题,再把它交给下一轮。 - P7-2.3 练习比较实验:把 baseline、raw 1-NN、部分缩放和标准化放在同一评估集上,区分哪些失败能靠预处理解决,哪些仍需要更多边界样本或特征。
Module 2. 比较与结构解释¶
Chapter 3. 输入结构与模型结构选择 Project Practice¶
- P7-3.1 输入结构会怎样改变项目:比较表格、图像和序列输入怎样改变准备代码、样本检查方式和模型输入输出定义。
- P7-3.2 比较 CNN、顺序模型与 attention 系列:说明当输入结构和需要参考的关系不同,为什么要选择不同的计算结构。
Chapter 4. 学习结果与表示检查 Project Practice¶
- P7-4.1 一起阅读 loss、metric 与错误案例:通过学习曲线、评估指标和错误样本一起判断
到底什么变好了。 - P7-4.2 重新拆开失败结果:把低于预期的结果拆成结构问题、数据问题和 baseline 设定问题,再决定下一轮方向与修改优先级。
- P7-4.3 表示规范化练习:比较规范化前后的请求,观察同义表达替换如何改变 coverage、预测和回顾优先级。
Module 3. 依据与执行记录¶
Chapter 5. 验证 RAG 依据 Project Practice¶
- P7-5.1 练习检索、依据与回答流程:查看候选检索、选中依据和最终回答怎样在一条管线中连起来。
- P7-5.2 记录检索失败与依据缺失:把不准确的回答记录为检索失败、依据不足或回答构成问题,而不是笼统地说
LLM 出错了。 - P7-5.3 练习问题与依据的边界:在同一组文档上改写问题,比较
依据不足、过度延伸风险和基于依据的回答如何分开。
Chapter 6. agent 执行与审批策略 Project Practice¶
- P7-6.1 练习计划、工具调用与审批流程:沿着执行路径查看 agent 的计划、工具调用顺序、审批和约束。
- P7-6.2 检查权限、日志与 blocked 状态:按 permission、blocked、next action 整理执行日志,并查看执行记录和失败处理规则的作用。
- P7-6.3 练习审批策略:在同一运维场景中划分哪些步骤可以自动执行、哪些需要立即保留,再重写更安全的下一步动作。
Module 4. 运营与迭代改进¶
Chapter 7. 部署与运营回顾 Project Practice¶
- P7-7.1 部署确认与状态检查:不只看 build 是否成功,还检查部署后的公开状态和基本行为。
- P7-7.2 故障记录与下一轮计划:把失败事件记录成包含原因推测、优先级、下一步措施和防止再发视角的运营回顾。
- P7-7.3 运营检查模拟:把运营信号分成
立即修复、确认复现、下一轮改进,再判断响应顺序。
来源与参考资料¶
本文档是为了让读者更容易阅读当前项目的基准目录,而重新组织的内部文档。未直接引用外部资料。