跳转至

目录

Section ID: BOOK-toc Version: v2026.09.15

本目录以韩文原稿的顺序列出已有的中文译稿;尚无中文译稿的章节暂不列出。

本文档是 AiBook 面向读者的目录。它不是单纯列出文件,而是让读者一眼看到从 AI 导论与地形图 -> 基础修复 -> 数据建模 -> 机器学习 -> 深度学习 -> LLM 与生成式 AI -> 项目实践 连接起来的重新学习顺序。

这里的 采用,是指这套顺序已经被选为本书的基准结构。它并不意味着每个 Chapter 都已经完全写完或最终验证。正文仍会继续补强,但 Part 和 Chapter 之间的学习依赖关系会以本文档为基准追踪。

快速开始

如果是第一次阅读,可以先从 介绍页 确认本书的目的和阅读方法,然后按顺序进入 Part 1。阅读中如果术语变得不清楚,可以在 概念词汇表 中找到代表说明位置。

读者状态 推荐开始路径
AI 整体流程还很陌生 介绍页 -> Part 1 -> Part 2
数学或 Python 记忆已经模糊 介绍页 -> Part 1 -> Part 2 -> Part 3
用过 AI 工具,但内部结构较弱 介绍页 -> Part 1 -> Part 3 -> Part 4
主要关心 LLM 与生成式 AI 的结构 Part 1 的 LLM 预览 -> Part 5 -> Part 6
想用产出物验证学习内容 确认 Part 1-6 中需要的概念 -> Part 7

整体流程

flowchart LR
  A[AI 导论与地形图]
  B[基础修复]
  C[数据建模]
  D[机器学习]
  E[深度学习]
  F[LLM 与生成式 AI]
  G[项目实践]

  A --> B --> C --> D --> E --> F --> G

这张图展示的是学习依赖关系:前面的 Part 会成为后面 Part 的阅读前提。

Part 中心作用 交给下一个 Part 的问题
Part 1. AI 导论与地形图 建立 AI 的范围、历史、规则与学习的区别,以及 LLM 使用体验的基础词汇。 要阅读 AI 模型计算,需要哪些基础?
Part 2. 基础修复 把数学、Python、数据工具和执行环境恢复为阅读模型计算的语言。 如何把原始数据变成可学习的结构?
Part 3. 数据建模 把数据重新组织成样本、特征、基准线和比较结构。 模型会从这样的结构化数据中学到什么?
Part 4. 机器学习 把问题定义、学习、验证、评估和代表性算法作为共同结构来阅读。 神经网络会怎样以计算方式扩展这个结构?
Part 5. 深度学习 处理神经网络计算、反向传播、CNN、RNN、attention 和 Transformer 结构。 这些结构如何用于 LLM 与生成式 AI 服务?
Part 6. LLM 与生成式 AI 连接 token、提示词、生成设置、嵌入、检索、RAG、AI 智能体和评估。 如何在小项目中验证并记录已经学到的内容?
Part 7. 项目实践 把问题、输入、基准线、比较、执行日志和运营回顾组合成一个产出物。 下一次迭代应该改进什么?

记号说明

在面向读者的公开说明里,本书按 Part > Module > Chapter > Section 来阅读。实际源码目录使用的是 Part > Chapter > Section 结构,而 Module 是把若干 Chapter 组织成一条阅读流程的编辑单位。

本文使用以下记号,让树形结构更清楚。

  • ## Part:本书的一个主要学习区段
  • ### Module:Part 内部按主题划分的阅读单元
  • #### Chapter 或 #### Project:Module 内部一个独立学习单元。Part 7 因为实践性质较强,可以写成 Project,但目录名仍然保留 chapter-XX 形式。
  • Section 项:实际被写作、维护和追踪的文档单位

即使同一个核心概念在多个 Section 中再次出现,目录里第一次出现它的位置,通常也是该 Part 内的代表性详细说明位置。后续 Section 则是在不同问题场景或计算语境里再次接回这个概念。

Part 1. AI 导论与地形图

在深入具体技术之前,这一 Part 先重建 AI 的整体地图。

Module 1. AI 的范围与历史

Chapter 1. 什么是 AI Concept Definition

  • P1-1.1 AI 这个词的范围:减少把 AI 一词用得过宽而产生的混乱
  • P1-1.2 AI 处理的问题:回看识别、搜索、预测、生成等问题类型
  • P1-1.3 AI、机器学习、深度学习与生成式 AI 的关系:固定之后会反复出现的术语位置

Chapter 2. AI 的历史与范式变化 History and Paradigm

  • P1-2.1 符号主义 AI 与规则式方法:回看早期 AI 的核心思维方式与局限
  • P1-2.2 搜索、知识表示与概率推理:连接早期的问题求解路径与不确定性处理
  • P1-2.3 走向机器学习、深度学习与生成式 AI 的脉络:说明为什么以数据为中心的方法逐渐成为主流

Module 2. 规则、模型与学习

Chapter 3. 从规则走向学习 History and Paradigm

  • P1-3.1 规则式系统的优势与限制:整理手写规则的优点与代价
  • P1-3.2 从数据中学习模式意味着什么:说明学习型 AI 背后的关键转变
  • P1-3.3 规则方法与表征学习:把规则、模式与表征区分开来

Chapter 4. 把问题变成模型 Modeling Perspective

  • P1-4.1 先熟悉 model 这个词:把模型视为简化后的表示,并与真实问题区分开
  • P1-4.2 输入(input)、输出(output)与数据(data):固定把现实问题转成可计算形式时的起点
  • P1-4.3 特征、表征与参数:回看数据在模型内部如何被处理
  • P1-4.4 问题定义如何决定模型:说明好问题定义先于好模型

Chapter 5. 学习与模型执行 Learning Principles

  • P1-5.1 学习(learning)会改变什么:回看参数与表征在学习过程中如何发生变化
  • P1-5.2 模型执行(inference)在运行什么:把已训练模型的使用与学习过程分开
  • P1-5.3 区分与 inference 相关的术语:区分 inference 与 reasoning

Module 3. 不确定性与问题求解

Chapter 6. 不确定性与概率判断 Mathematical Foundations

  • P1-6.1 信息不完整且例外很多的问题:说明仅靠规则难以处理的信息缺失、噪声与例外密集情形
  • P1-6.2 区分概率、不确定性与随机过程:分开那些常被混用的表达
  • P1-6.3 AI 在哪些地方使用概率性判断:回看概率视角如何出现在分类、预测和生成中

Chapter 7. 搜索与启发式 Practical Heuristics

  • P1-7.1 搜索空间与计算极限:说明为什么不能把所有可能答案都穷尽检查
  • P1-7.2 启发式到底减少了什么:回看那些减少时间、计算量与候选数的标准
  • P1-7.3 启发式与概率模型的区别:避免把经验规则和概率模型混成一类
  • P1-7.4 补充学习:从路径寻找走向自动驾驶路径规划:把搜索与启发式延伸到真实规划案例

Chapter 8. 学习类型的基本区分 Learning Principles

  • P1-8.1 监督学习:输入与标签:回看如何从带标签数据中学习
  • P1-8.2 无监督学习:结构与表征:回看没有标签时如何发现结构
  • P1-8.3 强化学习:动作与奖励:回看通过动作后的奖励进行学习

Module 4. 走向深度学习与生成式 AI

Chapter 9. 深度学习范式的扩散 History and Paradigm

  • P1-9.1 图像识别与表征学习:回看深度学习如何开始直接学习特征
  • P1-9.2 目标检测与语音生成案例:把 YOLO 与 WaveNet 当作深度学习扩散的外围证据
  • P1-9.3 区分 LLM 的直接谱系与外围证据:把深度学习的扩散与 LLM 的直接发展线区分开来

Chapter 10. 生成式 AI 导论 Concept Definition

  • P1-10.1 分类、预测与生成的区别:回看生成式 AI 与既有模型用法的差异
  • P1-10.2 生成下一个输出(next-output generation)的直觉:在文本、图像、语音生成之间建立共同直觉
  • P1-10.3 生成结果(output)的质量(quality)与风险(risk):把生成与幻觉、证据缺失、版权和安全连接起来

Chapter 11. LLM 从哪里来 History and Paradigm

这一章是对 LLM 直接谱系的简短预览,更详细的发展历史会在 Part 5 与 Part 6 的相关章节中重新展开。

  • P1-11.1 统计语言模型与嵌入:回看 LLM 之前的语言建模背景
  • P1-11.2 RNN、Seq2Seq 与 Attention:固定由序列数据和翻译研究带来的几个转折点
  • P1-11.3 Transformer 与预训练 LLM(pretrained LLM):勾勒通向当前 LLM 的直接主线

Module 5. LLM 使用体验的核心元素

这个 Module 固定 LLM 使用所需的基础词汇与整体流程。每个主题的更完整说明会在 Part 6 的相关章节继续展开。

Chapter 12. Prompt 基础与使用 LLM 的手感 LLM Core

  • P1-12.1 提示词(prompt)指定了什么:建立把指令、条件和上下文作为输入给出的基本感觉
  • P1-12.2 指示(instruction)、上下文(context)、示例(example):整理 prompt 的基本组成部分
  • P1-12.3 提示词(prompt)的限制(limit)与评估(evaluation):回看 prompt 不能保证什么,以及应如何尽早检查

Chapter 13. 嵌入与向量检索 LLM Core

  • P1-13.1 把文本(text)表示为向量(vector)意味着什么:建立把意义放入数值空间的直觉
  • P1-13.2 相似度搜索(similarity search)的直觉:回看寻找相近向量的想法与局限
  • P1-13.3 通向 RAG(retrieval-augmented generation)的流程:说明为什么要把检索结果接到 LLM 输入上
  • P1-13.4 向量搜索(vector search)实现的直觉:轻量连接向量数据库、索引与图式近似搜索

Chapter 14. AI 服务架构与执行环境 Service Structure

  • P1-14.1 模型、应用、数据与工具:分开 AI 服务中的主要部件
  • P1-14.2 RAG 与工具使用的位置:回看为什么外部资料和工具调用会变得必要
  • P1-14.3 agent:把目标(goal)连接成工作流(workflow)的结构:回看模型如何把多步工作与工具使用连接起来的整体图景
  • P1-14.4 MCP(Model Context Protocol)与工具连接标准化:固定 AI agent 如何连接外部工具与数据的接口流程
  • P1-14.5 harness 与评估执行环境:预览执行、日志、测试、评估与可复现性周边结构
  • P1-14.6 AI 服务在现实中遇到的约束:扫描成本、延迟、使用限制与失败响应

Module 6. 社会议题与应用

Chapter 15. AI 伦理、版权与安全 Law and Policy

  • P1-15.1 偏见(bias)、安全性(safety)、责任(accountability):回看 AI 输出所伴随的社会责任
  • P1-15.2 版权(copyright)与训练数据(training data):固定围绕韩国出版物与训练数据争议的审查点
  • P1-15.3 安全(security)与隐私(privacy):回看输入数据、输出结果与服务运维周围的风险

Chapter 16. 实际应用案例 Project Practice

  • P1-16.1 个人学习(personal learning)与文档化(documentation):把本书本身作为一个实践应用案例
  • P1-16.2 工作自动化(work automation)与搜索(search):回看重复性工作、文档检索和摘要生成案例
  • P1-16.3 如何通过项目(project)来验证:整理通过小型产出来检查理解的方式

Chapter 17. AI 的未来 Forecasting

  • P1-17.1 应该依据什么来讨论预测:固定做预测性写作时所需的证据标准
  • P1-17.2 阅读新闻(news)、专栏(column)、报告(report):回看如何比较带有时间敏感性的外部来源
  • P1-17.3 区分预测(prediction)与工作假设(working hypothesis):避免把个人解读写成既定事实

Part 2. 基础恢复

这一 Part 不追求把数学完整证明到底,而是恢复阅读 AI 模型计算、并用小代码重现它所需的最小基础。与其把数学记号、Python 运行环境、数据工具、可视化、Git 分开死记,不如把它们重新连成通往 Part 3 数据建模与 Part 4 机器学习的共同基础。

Module 1. 把数学重新读成计算语言

Chapter 1. 为什么 AI 需要数学 Mathematical Foundations

  • P2-1.1 数学在 AI 计算中扮演什么角色:把数学介绍成阅读模型计算的语言,而不是只把它当成证明对象
  • P2-1.2 把公式转成代码,计算数据:把平均值公式转成 Python 代码,检查数据的形状并解释计算结果的含义

Chapter 2. 重新阅读公式记号 Mathematical Foundations

  • P2-2.1 重新阅读变量(variable)、函数(function)、表达式(expression):把很久以前学过的基本记号恢复成阅读 AI 文档的工具
  • P2-2.2 Sigma(Σ)与重复计算:回看求和符号怎样出现在数据分组、平均值与损失计算里
  • P2-2.3 极限(limit)与变化的直觉:把极限更多恢复成通向变化、近似、微分的直觉,而不是精密证明
  • P2-2.4 为什么 log 与 exp 会反复出现:在读 log loss、sigmoid、softmax 之前,先把对数与指数重新抓成计算语言

Module 2. 阅读模型计算所需的核心数学

Chapter 3. 线性代数在建模什么 Mathematical Foundations

  • P2-3.1 标量(scalar)、向量(vector)、矩阵(matrix):抓住数据如何变成数字、列表与表格这几种基本表达
  • P2-3.2 向量空间(vector space)与位置的直觉:建立理解 embedding 与特征表征所需的最小位置直觉
  • P2-3.3 矩阵乘法(matrix multiplication)到底在复用什么:从代码角度回看线性变换与批量计算的意义
  • P2-3.4 内积(dot product)、长度(norm)、距离(distance)、相似度(similarity):在进入 k-NN、embedding、向量检索之前,先恢复向量比较标准
  • P2-3.5 Python 运行环境:Colab 与本地 PC:区分浏览器里的 Colab 与个人电脑终端运行
  • P2-3.6 用 NumPy 确认线性代数:用小代码重现向量、矩阵与矩阵乘法

Chapter 4. 微分是为了找到什么的工具 Mathematical Foundations

  • P2-4.1 回顾我们怎样学习微分:把切线、瞬时变化率、速度、累积这些旧记忆重新拉回当前学习问题
  • P2-4.2 变化率(rate of change)与斜率(slope):把微分介绍成阅读函数如何变化的工具
  • P2-4.3 微分(derivative)与梯度(gradient):回看寻找让损失变小方向所需的最小概念
  • P2-4.4 为什么学习里需要微分:只保留进入优化与反向传播之前所需的连接
  • P2-4.5 梯度补充学习:从高中微分到多变量微分:比较方向变化率与梯度向量场,并区分切线方向的瞬时变化率和实际变化量。
  • P2-4.6 复合函数与链式法则:在阅读反向传播之前,先恢复函数经过多个步骤连接时变化率如何传递

Chapter 5. 为什么需要概率与统计 Mathematical Foundations

  • P2-5.1 概率(probability)如何把不确定性表示成数字:把概率重新恢复成处理未知状态的数字语言
  • P2-5.2 分布(distribution)、均值(mean)、方差(variance):回看概括一组数据形状的基本工具
  • P2-5.3 样本(sample)、估计(estimation)、误差(error):回看统计究竟是在从数据里估计什么
  • P2-5.4 用小数据确认概率与统计:通过代码与图表确认平均值、方差与分布
  • P2-5.5 补充学习:初读标准差、相关与置信区间:补上第一次重新遇见统计术语时需要的最小解释标准

Chapter 6. 优化在解什么问题 Learning Principles

  • P2-6.1 最优化(optimization)到底在寻找什么:把优化理解成寻找更好数值的问题,而不是直接把正确答案写出来
  • P2-6.2 损失函数与目标函数:回看模型用什么标准来表达自己想减少或增大的东西
  • P2-6.3 梯度下降的直觉:在不进入复杂证明的前提下,抓住反复调整数值的流程

Module 3. 运行环境与 Python 基础

Chapter 7. 学习环境设置 Software Tools

  • P2-7.1 本地环境(local environment)与运行时(runtime):先抓住代码究竟在哪里运行,以及本地 PC 与外部 runtime 的差别
  • P2-7.2 终端(terminal)、shell、工作目录(working directory):解释命令输入在哪里,以及当前路径为什么重要
  • P2-7.3 Python 解释器(interpreter)与脚本(script):回看 Python 代码怎样运行,以及文件执行与交互式执行的差别
  • P2-7.4 虚拟环境(virtual environment)与包(package):回看项目级执行空间,以及 NumPy、Pandas 这类包怎样接进去
  • P2-7.5 依赖(dependency)与可复现性(reproducibility):整理在另一台机器上重跑同一练习所需的条件
  • P2-7.6 补充学习:不同操作系统中的终端入口:单独整理不同操作系统里如何打开终端、基本命令差异、练习前检查步骤
  • P2-7.7 补充学习:什么时候需要安装 Python:说明从 Colab 起步后,什么时候才需要在本地 PC 安装 Python
  • P2-7.8 补充学习:阅读 shell 执行流程:补上终端练习里常见的语法
  • P2-7.9 补充学习:检查本地 Python 环境问题:整理安装与执行对不上时应该先检查什么

Chapter 8. 复习 Python 核心语法 Software Tools

  • P2-8.1 值、变量与类型:把 Python 语法恢复到足够支撑数学计算与数据处理的程度
  • P2-8.2 列表(list):有顺序的值集合:确认有顺序的数据集合与列表初始化模式
  • P2-8.3 字典(dictionary):按键(key)查找值的结构:回看键值映射与实作里常见的 map 模式
  • P2-8.4 循环(loop):逐个处理 iterable:区分项迭代、索引迭代、键值迭代与筛选式迭代
  • P2-8.5 函数(function)与小规模复用:回看数学里的函数与 Python 函数有什么相似与不同
  • P2-8.6 补充学习:第一次遇到类(class)与对象(object):慢慢读对象、类、方法、self,以及像 model.fit() 这样的库调用
  • P2-8.7 补充学习:区分引用与拷贝:补上避免值一起变化混淆所需的最小标准

Chapter 9. 数据结构与图(graph)的直觉 Software Tools

  • P2-9.1 为什么需要数据结构:回看数据被装成什么形状,会如何影响计算方式
  • P2-9.2 数组(array)、表(table)、树(tree)、图(graph)的直觉:轻量区分 AI 与检索里常见的几种结构
  • P2-9.3 图(graph)如何表达关系:建立用节点(node)与边(edge)表示关系的最小直觉
  • P2-9.4 补充学习:第一次阅读传统数据结构的方法:不以实现细节,而是按思路流程来快速扫过数组、链表、栈、队列、树、图、哈希表

Chapter 10. Jupyter 与 Colab Notebook Software Tools

  • P2-10.1 为什么笔记本(notebook)对学习有用:回看把代码、结果与说明放在一起的方式有什么优缺点
  • P2-10.2 Jupyter、Colab 与本地执行的区别:整理执行位置、文件访问、练习记录方式的不同
  • P2-10.3 把笔记本整理成可重新执行的记录:整理执行顺序、依赖处理、数据准备与分享时的注意点

Module 4. 数据计算与可视化工具

Chapter 11. 用 NumPy 复用向量与矩阵 Software Tools

  • P2-11.1 用 NumPy 数组构建向量与矩阵:把线性代数记号重现成真实数组计算
  • P2-11.2 索引、切片与轴:建立阅读数组位置与方向的基本感觉
  • P2-11.3 广播与向量化:回看如何不用显式循环,而改为按数组整体计算
  • P2-11.4 补充学习:在 NumPy 中一起读取 shape 与原数组共享:补上为什么 view/copy、shape、newaxis 很容易一起混淆

Chapter 12. 用 Pandas 处理数据结构 Software Tools

  • P2-12.1 Pandas DataFrame 表达什么:回看表格式数据怎样由行(row)、列(column)、索引(index)构成
  • P2-12.2 选择、过滤与聚合:恢复数据分析里反复使用的基本操作
  • P2-12.3 准备学习数据集(dataset)的直觉:回看模型学习前为什么需要整理并切分数据

Chapter 13. 用 Matplotlib 可视化概念 Software Tools

  • P2-13.1 图表(plot)会揭示什么:在数字表之外,用视觉去确认看不见的模式
  • P2-13.2 基础图表与公式形状的确认:用折线图、散点图、直方图确认函数、分布与损失变化
  • P2-13.3 比较多个图表并保存:回看怎样摆放多个 Axes 比较相关图形,并把结果保存成文件

Module 5. 可复现性与综合复习

Chapter 14. Git 与文档管理 Software Tools

  • P2-14.1 Git 是管理变更历史的工具:建立能回看学习文档与代码变化的基本概念
  • P2-14.2 分支(branch)、提交(commit)与文档可复现性:把这本书的 dev/main 运营流程,与原稿和依据资料管理标准连起来

Chapter 15. 用软件再看数学 Project Practice

  • P2-15.1 把公式翻译成代码的小步骤:整理把一个数学记号转成 Python 计算的顺序
  • P2-15.2 进入 Part 3 之前的检查:检查进入数据建模前所需的数学与软件感觉

Part 3. 数据建模

这一 Part 讨论的不是把原始数据直接塞进模型,而是重新把问题整理成可以表达的样本与表结构的过程。这里也会顺带指出:在数据建模之前,还有像 DSS / BI / DW / OLAP 这样把数据汇集起来并连到决策的更早一层数据系统脉络。Part 2 与 Part 3 共同构成基础检查区段,而 Part 3 作为 为 Part 4、5、6 补上数据科学基本功的 Part,会先把存储结构、样本单位、事件数据与时间记录、基准线比较、特征设计、解释边界这些东西立起来,也会在 Chapter 5、8、9 里把后面 Part 所需的前提一起闭住。

Module 1. 角色与问题场景

Chapter 1. 数据建模想达成什么,又按什么顺序进行 Modeling Perspective

  • P3-1.1 数据建模想要达成什么:先抓住原始数据应当被重新设计成什么样的样本、特征、比较、输出结构
  • P3-1.2 数据建模按什么顺序推进:先看建立问题、样本、表、特征、基准线、输出结构的基本顺序
  • P3-1.3 数据问题要怎么写,问题结构才会先于模型显现出来:整理怎样写出一种问题句子,让样本单位、比较标准、结果形式先于模型名字显出来

Chapter 2. 先读取存储结构与设计轴 Modeling Perspective

  • P3-2.1 为什么要按照分析目的重新组织存储记录:说明原始记录也可以是数据集,但仍可能需要按照分析目的定义样本与列
  • P3-2.2 数据集候选里要放进哪些结构:回看样本、特征、基准线、输出结构怎样被捆在一起
  • P3-2.3 第一次拿到新表时,应该先写下什么:整理一种读表笔记,先检查行的意义、标识符、时间/顺序列与可比较性

Chapter 3. 数据集不是一开始就给好的 Modeling Perspective

  • P3-3.1 为什么不能把原始数据立刻读成学习问题:先整理把记录结构误当成学习结构时,会漏掉哪些问题
  • P3-3.2 怎样按照问题重新设计数据集:回看数据集其实是按问题重新做出来的结构
  • P3-3.3 要把问题搬到第一张表草案里,应该先草拟哪些列:整理怎样先从标识列、特征候选列、比较列、结果列画出第一版表草图

Module 2. 样本与表结构

Chapter 4. 怎样确定样本单位 Modeling Perspective

  • P3-4.1 怎样决定一条可比较的样本:区分一行记录与一条样本,并确定比较单位
  • P3-4.2 一旦样本单位摇摆,哪些东西会一起摇摆:回看特征、标签、评估其实都建立在样本单位之上
  • P3-4.3 时点记录、动作样本和区间汇总有什么不同:把时点记录、一次动作、一个近期汇总区间放在同一画面里重新区分,减少层次混乱
  • P3-4.4 哪些信号说明样本单位抓错了:检查像重复标签、无法解释的特征、别扭的报告句子这类误判信号
  • P3-4.5 现在收集到的样本,在多大程度上代表了整体运行情况:整理即使样本单位本身是对的,只要时间、模式、设备范围过窄,代表性仍会变弱

Chapter 5. 怎样把原始日志变成汇总表 Modeling Perspective

  • P3-5.1 如何把原始日志转换成可比较的表:回看从原始日志走向汇总表与聚合表的过程
  • P3-5.2 汇总表如何保留平均值之外的模式:回看怎样在汇总表里留下平均值遮住的结构差异
  • P3-5.3 即使有原始时间序列,为什么也不能立刻称它为学习输入:整理原始时间序列与学习输入之间的差别,以及输入边界的决定
  • P3-5.4 输入窗口(window)应该从哪里切,长度又该如何对齐:讨论怎样按问题来决定时间序列输入的起点、终点、长度标准与对齐标准
  • P3-5.5 数值缺失或区间为空的样本应该怎样处理:整理怎样区分部分值缺失、整段区间缺失、样本边界崩塌,并判断是否要把“缺失本身”留下成结构信息
  • P3-5.6 重叠输入窗口与样本数:区分输入窗口数量与原始事件数量,并整理窗口重叠怎样让表结构看起来被放大
  • P3-5.7 折叠多个后续事件的规则:整理 any、first、worst、count 这类折叠规则会怎样改变结果表的含义

Module 3. 特征与比较结构

Chapter 6. 怎样设计特征与中间表征 Modeling Perspective

  • P3-6.1 应该用什么特征把可比较的结构留下来:回看平均值、斜率、波动性这类数值特征应该留下什么
  • P3-6.2 当特征本身还不够时,还可以加入什么中间表示:回看 segment 表征与 tokenization 需要到什么程度
  • P3-6.3 人工设计的特征,与模型学习到的表示,应该怎样区分:整理特征设计与表征学习之间的连接与边界
  • P3-6.4 为什么汇总表里的所有列都不一定是特征:整理一种标准,把同一张汇总表里的列分开读成特征、比较项、结果候选、标识/语境
  • P3-6.5 当特征的单位和尺度不同的时候,应该怎样一起读取和保留:整理阅读特征表数字时,不只看绝对大小,而要连同单位、角色、比较标准一起解释
  • P3-6.6 相同列名与不同特征:整理一种标准,避免把单位、传感器版本、计算规则、运营定义已经变化的列混成同一个特征

Chapter 7. 怎样阅读基准线比较结构 Modeling Perspective

  • P3-7.1 应该把留下来的结构拿去和什么比较,变化才会显现:回看基准线本身就是比较结构的一部分
  • P3-7.2 应该怎样把比较表读成人工复核句子:回看把近期区间与基准线比较表改写成人工复核句子的顺序
  • P3-7.3 基准线到底是拿来和什么比较的标准:整理数据比较标准与模型评估标准的差别
  • P3-7.4 基准线应该用什么区间、什么条件来设定:整理选择基准线时如何对齐样本单位与工况条件,并另外检查样本数量
  • P3-7.5 基准线应该固定不动,还是应该按“最近的平时”一起更新:整理固定基准线与近期平常基准线分别更适合什么问题

Module 4. 解释边界

Chapter 8. 怎样阅读样本数与重复性 Modeling Perspective

  • P3-8.1 解读强度由什么来调节:回看怎样随着样本数与重复性不同,调整说法的力度
  • P3-8.2 变化信号能说到哪里,原因又该停在哪里:回看变化信号与原因定论之间的边界
  • P3-8.3 保守解读句子应当按什么顺序、用什么词来写:整理怎样把比较结果、强度条件、下一步动作留下成句子骨架
  • P3-8.4 保守解读与运营列:整理解释句子怎样继续连成 warning_level、review_needed、priority_score 这类结构化运营输出
  • P3-8.5 多个比较列如何归并成一个复核优先级候选:整理怎样不只看一个差值,而是把变化幅度、重复性、解释可信度、运营重要度一起绑成复核候选
  • P3-8.6 只留在部分案例上的确认标签:整理怎样把复核路径与偏置一起写进去,避免把选择性贴上的标签当成整体事件代表
  • P3-8.7 运营介入改变的数据解读:整理一种解释边界,避免把干预后的数据与自然演化读成同一种意思

Module 5. 问题类型与后续 Part 连接

Chapter 9. 怎样把某个问题做成预测问题 Modeling Perspective

  • P3-9.1 现在的问题应该提升到哪一层:区分 warning、复核候选、目标标签候选之间的层次
  • P3-9.2 为什么有些问题应该一直保留为比较报告:回看有些场景里比较报告比预测更合适
  • P3-9.3 三种运营表的差异:回看同一份数据怎样分叉成三种产出物
  • P3-9.4 复核备忘录如何变成候选目标标签:整理复核笔记与运营判断反复累积后,怎样沉淀成更稳定的 target 候选列
  • P3-9.5 同一个事件在多个产物之间靠什么持续追踪:整理为什么即便比较报告、复核队列、目标标签候选表不同,也要维持相同样本标识与最小依据
  • P3-9.6 检查标签一致性:整理为什么即使已经有目标标签候选列,也必须先检查标签意义是否一致
  • P3-9.7 如何区分预测时可用的输入与之后的结果:把输入/结果区分、防止泄漏、运营时点可复现性、cutoff 与 horizon 一次整理清楚
  • P3-9.8 预测分数通过什么规则转化为行动:把预测单位、模型输出、运营政策、真实动作分开整理
  • P3-9.9 如何区分实际目标与代理目标:区分当前在用的 target 到底是真正目标,还是暂时替代它的代理列
  • P3-9.10 如何区分标签确认延迟与观察未完成:区分标签确认延迟与观察尚未完成的状态
  • P3-9.11 候选目标与变化的标准:整理为什么必须先固定代表 target 与定义版本
  • P3-9.12 误报与漏报的成本如何改变判断标准:整理为什么要先写出 false negative 与 false positive 在运营成本上的差别
  • P3-9.13 交给 Part 4 之前的问题边界:这里只先抓住这些名称与必要性,把它们留给后面 Part 正文里的评估与问题类型章节

Part 4. 机器学习

这一 Part 会把“从数据里学习规则”这句话真正恢复出它的含义。与其先背算法列表,不如先抓住数据切分、评估、泛化、过拟合。

Module 1. 机器学习的位置

Chapter 1. 区分 AI、机器学习、深度学习 Concept Definition

  • P4-1.1 AI、机器学习、深度学习之间的关系:把 Part 1 里的地图重新接到机器学习学习流程上
  • P4-1.2 从数据中学习规则这句话是什么意思:从机器学习视角整理手写规则与学习式方法之间的差别

Chapter 2. 监督学习、无监督学习、强化学习 Learning Principles

  • P4-2.1 监督学习:回看学习输入与标签关系这一基本问题
  • P4-2.2 无监督学习:回看在没有标签时寻找结构的问题
  • P4-2.3 强化学习:回看通过动作与奖励学习策略的问题

Chapter 3. 为什么需要启发式 Practical Heuristics

  • P4-3.1 为什么需要启发式:回看为什么有些场景需要的不是完整最优解,而是实用判断标准
  • P4-3.2 启发式与模型选择:回看怎样把经验规则当成可验证的起点

Module 2. 数据与评估

Chapter 4. 数据切分与验证 Learning Principles

  • P4-4.1 训练数据与评估数据:解释为什么要把数据分开
  • P4-4.2 验证(validation)与测试(test):区分挑选模型的过程与最终确认

Chapter 5. 过拟合与泛化 Learning Principles

  • P4-5.1 过拟合(overfitting)与欠拟合(underfitting):回看模型过度贴合数据或学习不足时的状态
  • P4-5.2 泛化(generalization):整理“在没见过的数据上也能正常工作”到底是什么意思

Chapter 6. 评估指标 Learning Principles

  • P4-6.1 评价指标(metric)的作用:先抓住 accuracy、precision、recall 这类指标究竟在看什么
  • P4-6.2 按问题类型区分的评价标准:回看为什么分类、回归、聚类的评估方式会不同
  • P4-6.3 补充学习:在站点可靠性工程里如何读指标(metrics):补充机器学习评估指标与运营指标有何不同
  • P4-6.4 补充学习:评估指标的问题地图:把常见但陌生的评估指标放回大图景里区分

Module 3. 实务启发式

Chapter 7. 特征选择与预处理启发式 Practical Heuristics

  • P4-7.1 特征选择(feature selection):回看按什么标准决定把哪些输入交给模型
  • P4-7.2 预处理(preprocessing):回看处理缺失值、尺度、类别型数据的基本判断
  • P4-7.3 补充学习:区分预处理中的输入问题:补充一种感觉,不是按技术名,而是按输入问题来区分预处理种类
  • P4-7.4 补充学习:区分特征选择方式:补充避免把特征选择与降维混在一起的标准

Chapter 8. 模型选择启发式 Practical Heuristics

  • P4-8.1 模型选择(model selection):回看按什么标准缩小符合问题与数据的模型候选
  • P4-8.2 基准模型(baseline):回看为什么在复杂模型之前必须先立 baseline,以及如何解释分数
  • P4-8.3 补充学习: 按问题类型第一次建立 baseline 的方法:回看在分类、回归、时间序列里,怎样按步骤与例子建立代表性 baseline

Chapter 9. 超参数调优 Practical Heuristics

  • P4-9.1 超参数(hyperparameter):区分那些不会通过学习本身改变的设定值
  • P4-9.2 调优(tuning)与验证成本:回看性能改进与计算成本之间的平衡
  • P4-9.3 补充学习:模型选择之后的工具地图:补充调优自动化与实验管理工具在整体流程中的位置

Module 4. 基础算法

Chapter 10. 线性回归 Algorithms

  • P4-10.1 线性回归(linear regression)的直觉:回看预测连续值的最基本模型
  • P4-10.2 线性回归(linear regression)的评价与局限:回看残差、误差与线性假设的限制
  • P4-10.3 补充学习:第一次该怎样读回归诊断(regression diagnostics):补充第一次看残差模式与假设检查时需要的标准

Chapter 11. 逻辑回归 Algorithms

  • P4-11.1 逻辑回归(logistic regression)的直觉:回看分类问题里那种能被读成概率的输出
  • P4-11.2 决策边界(decision boundary):回看分类模型会形成边界这一视角
  • P4-11.3 补充学习:第一次如何读 log-odds 与 MLE:补强为什么概率解释与学习目标会接在同一章里
  • P4-11.4 补充学习:如何读取多类别(multinomial)逻辑回归:回看二分类直觉怎样扩成多类别概率比较
  • P4-11.5 补充学习:第一次如何读 solver 与 regularization:回看为什么即使都是逻辑回归,也要把学习计算与正则设定一起记录

Chapter 12. k-NN Algorithms

  • P4-12.1 k-NN 的直觉:回看邻近数据怎样影响判断
  • P4-12.2 距离(distance)与尺度(scale):回看定义“接近”时会出现什么问题
  • P4-12.3 使用 k-NN 时,应该先检查什么?:整理面对 k-NN 时,应该先回头看距离规则、k 还是数据表征

Chapter 13. SVM Algorithms

  • P4-13.1 SVM 的直觉:围绕边界与间隔(margin)理解分类
  • P4-13.2 kernel 的入门含义:只简单回看处理非线性边界的核心想法

Module 5. 树与集成

Chapter 14. 决策树 Algorithms

  • P4-14.1 决策树(decision tree):回看按提问不断分叉来做预测的模型
  • P4-14.2 树的过拟合:回看树枝越来越深时会出现的问题

Chapter 15. 随机森林 Algorithms

  • P4-15.1 随机森林(random forest):回看怎样把多棵树合起来提高稳定性
  • P4-15.2 特征重要度(feature importance):回看模型解释的入门视角
  • P4-15.3 OOB(out-of-bag)与随机森林检查:回看怎样把 train、OOB、test 一起阅读
  • P4-15.4 补充学习:比较 Extra Trees 与随机森林:比较同样是 forest 系里,split 随机化、bootstrap 默认值、OOB 可用条件怎样不同

Chapter 16. 梯度提升 Algorithms

  • P4-16.1 梯度提升(gradient boosting):回看按顺序逐步补强弱模型的流程
  • P4-16.2 提升模型的性能与风险:一起看高性能与调优敏感性
  • P4-16.3 补充学习:提升库与运营感:回看 XGBoost、LightGBM、CatBoost 与 GPU、自动化感觉怎样第一次被捆在一起

Module 6. 发现结构

Chapter 17. 聚类 Algorithms

  • P4-17.1 聚类(clustering)的直觉:回看把相似数据聚在一起的问题
  • P4-17.2 解释聚类结果时的注意点:整理聚类结果并不等于正确标签
  • P4-17.3 补充学习:层次聚类与谱聚类:重新绑回中心、密度、顺序、连接这些不同的聚类直觉
  • P4-17.4 补充学习:如何第一次把聚类和半监督学习连接起来:补充一种标准,把聚类读成标签假设与复核优先级,而不是自动标签

Chapter 18. 降维 Algorithms

  • P4-18.1 降维(dimensionality reduction):回看为什么要把很多特征压成更少的轴
  • P4-18.2 可视化与信息损失:一起看更好理解的图形与原始信息损失

Chapter 19. 强化学习算法 Algorithms

  • P4-19.1 价值型强化学习:通过 Q-learning 与 SARSA 回看学习状态与动作价值的视角
  • P4-19.2 策略型强化学习:通过 policy gradient 与 actor-critic 回看直接调整策略的视角
  • P4-19.3 应用强化学习时的注意点:整理奖励设计、探索成本、模拟与现实之间的差异
  • P4-19.4 补充学习:强化学习后续分支地图:重新把代表性强化学习系列放回整体脉络
  • P4-19.5 补充学习:第一次读强化学习中的公式名称:第一次把价值型强化学习的递归价值式与大状态空间扩展背景连起来
  • P4-19.6 补充学习:第一次读 policy gradient:第一次把策略型公式为什么会写成对数概率梯度形式连起来

Part 5. 深度学习

理解神经网络如何表示并学习数据。从感知机出发,沿着反向传播、优化、表示学习、CNN、RNN、Transformer 与生成模型这条主线继续前进。

Module 1. 神经网络的起点

Chapter 1. 感知机 Deep Learning Structure

  • P5-1.1 感知机(perceptron)的直觉:观察输入、权重与输出之间最简单的流动关系。
  • P5-1.2 线性组合与激活:观察感知机如何形成判断边界。

Chapter 2. 多层神经网络 Deep Learning Structure

  • P5-2.1 多层神经网络(multilayer neural network):观察为什么要把多层结构堆叠起来。
  • P5-2.2 隐藏层(hidden layer)与表征:抓住中间表示逐渐形成的直觉。

Module 2. 输出、损失与反向传播

Chapter 3. 激活函数 Deep Learning Structure

  • P5-3.1 激活函数(activation function):观察为什么需要加入非线性。
  • P5-3.2 sigmoid:观察把分数压到 0 到 1 之间的函数公式与直觉。
  • P5-3.3 tanh:观察 -1 到 1 之间的 0 中心表示。
  • P5-3.4 ReLU:观察截断负数、通过正数的规则。
  • P5-3.5 代表性激活函数公式比较:并排比较 sigmoid、tanh、ReLU 的公式与输出范围。
  • P5-3.6 输出层(output layer)与激活的选择:观察为什么最后输出的解释会随问题类型而变化。

Chapter 4. 损失函数 Learning Principles

  • P5-4.1 损失函数(loss function):观察用什么标准把模型的错误写成数字。
  • P5-4.2 按问题类型区分的损失:观察回归、分类、生成为何会使用不同损失。

Chapter 5. 反向传播 Deep Learning Structure

  • P5-5.1 损失如何变成梯度(gradient)信号:观察误差如何传回前面的权重。
  • P5-5.2 计算图(computation graph):把复杂微分重新读成一条计算流程。

Module 3. 学习循环与稳定化

Chapter 6. 分开学习(learning)与模型执行(inference) Learning Principles

  • P5-6.1 学习循环的四个步骤:区分改变参数的阶段与使用参数的阶段。
  • P5-6.2 学习 step、batch、epoch:区分训练循环在真实数据上反复运行时使用的重复单位。
  • P5-6.3 学习(learning)与模型执行(inference):区分会改变参数的阶段与只使用当前参数的阶段。
  • P5-6.4 训练模式(training mode)与评估模式(evaluation mode):为后面理解 dropout、batch normalization 的差异先做准备。

Chapter 7. 优化器 Learning Principles

  • P5-7.1 optimizer 的角色:观察 gradient 在哪里变成实际参数 update。
  • P5-7.2 学习率(learning rate)与 update 步幅:观察同一个 gradient 为什么会得到过小或过大的 update。
  • P5-7.3 自适应 update 的直觉:以 Adam 为例:说明 Adam 如何在简单 update 基准上加入自适应调节。
  • P5-7.4 补充学习:区分 adaptive optimization 的主张:区分收敛保证与实务表现主张。
  • P5-7.5 补充学习:代表性 optimizer 系列:比较 momentum、AdaGrad、RMSProp 和 Adam 记忆与调整的量。
  • P5-7.6 补充学习:学习率调节策略:解释 warmup 和 decay 为何随训练进程调整学习率。
  • P5-7.7 补充学习:optimizer state 与逐参数 update:区分参数、梯度、更新量和优化器状态。
  • P5-7.8 补充学习:gradient clipping 与不稳定的 update:区分梯度裁剪与学习率调整的作用。

Chapter 8. 正则化与 dropout Learning Principles

  • P5-8.1 如何给目标函数加约束:正则化(regularization):观察用于降低过拟合的约束方式。
  • P5-8.2 如何减少路径依赖:dropout:观察训练时临时断开部分连接的直觉。
  • P5-8.3 补充学习:深层计算的稳定条件:把初始化、数值稳定性与批归一化连接成让深层计算更稳定的条件。
  • P5-8.4 补充学习:较大的初始化尺度会怎样摇晃计算范围:检查过大的初始化尺度如何影响激活值与梯度。

Module 4. 计算环境与表示学习

Chapter 9. GPU 与并行处理 History and Paradigm

  • P5-9.1 GPU 与并行处理(parallel processing):观察计算资源在深度学习扩散中扮演了什么角色。
  • P5-9.2 batch 与 tensor 计算:观察如何同时处理大量数据。

Chapter 10. 表示学习 Deep Learning Structure

  • P5-10.1 表征学习(representation learning):比较人工编写特征与模型自己学习表示的方式。
  • P5-10.2 深层中的表征:观察从低层特征走向高层表示的直觉。

Module 5. 空间结构与 CNN

Chapter 11. CNN Algorithms

  • P5-11.1 卷积神经网络(CNN)的直觉:观察如何在图像中读取局部模式。
  • P5-11.2 卷积(convolution)与池化(pooling):简要观察 CNN 的核心运算。
  • P5-11.3 补充学习:比较 CNN 与 Vision Transformer:简短整理学习 CNN 之后该用什么视角继续比较后续视觉结构。

Module 6. 序列结构与 RNN 系列

Chapter 12. RNN、LSTM、GRU Algorithms

  • P5-12.1 RNN、LSTM、GRU 的必要性:观察为了处理序列数据为什么出现这些结构。
  • P5-12.2 长期依赖(long-term dependency):观察很早之前的信息为什么会逐渐消失。

Module 7. 从 Attention 到 Transformer

Chapter 13. Attention Deep Learning Structure

  • P5-13.1 注意力(Attention)的直觉:观察把注意力更集中到关键位置的方法。
  • P5-13.2 通向 self-attention 的流程:先抓住通往 Transformer 的连接。
  • P5-13.3 补充学习:QKV 与 multi-head attention:补足第一次区分 Attention 内部组成元素时需要的标准。

Chapter 14. Transformer Deep Learning Structure

  • P5-14.1 不能只靠 attention 解释的 Transformer:观察 attention、feed-forward、layer norm 分别在什么位置。
  • P5-14.2 Transformer block 的四个部件分别负责什么?:区分自注意力、前馈网络、残差连接和归一化的作用。
  • P5-14.3 稳定深层重复的两个装置:解释残差连接和归一化如何稳定重复堆叠的模块。
  • P5-14.4 RNN 状态传递与 Transformer 并行计算:比较 RNN 状态的顺序传递与 Transformer 的并行计算。
  • P5-14.5 长上下文中顺序状态和直接重参考怎样分开?:比较长上下文中的顺序状态传递与对早期表示的直接访问。
  • P5-14.6 补充学习:按位置加工表示:解释前馈网络如何在注意力计算后加工各位置的表示。
  • P5-14.7 补充学习:保留原始表示的路径:解释将原始表示与新计算结果相加的残差路径。
  • P5-14.8 补充学习:对齐数值基准线的归一化:解释层归一化如何调整同一位置内数值的尺度。

Module 8. 生成模型与采样

Chapter 15. 生成模型的直觉 Deep Learning Structure

  • P5-15.1 从深度学习视角看生成式 AI 时,什么会改变:准备 Part 6 深入分析生成式 AI 前需要的输出视角。
  • P5-15.2 生成模型的候选分布:从候选空间和相对可信度来阅读生成。
  • P5-15.3 采样(sampling)怎样从候选分布中取出实际输出:观察实际输出怎样从候选分布中被选出,以及质量为什么会波动。
  • P5-15.4 扩散模型怎样学习并复原噪声?:连接正向加噪、噪声预测和迭代去噪。
  • P5-15.5 注意力和 Transformer 在扩散模型中负责什么?:区分扩散模型中自注意力、交叉注意力、U-Net 和 DiT 的作用。
  • P5-15.6 VAE 怎样把图像变成 latent 表示?:解释 VAE 中的编码、重建和分布约束。

Part 6. LLM 与生成式 AI

Part 6 从生成式 AI 的产出物出发,以 LLM 作为代表案例来阅读,并把 token、embedding、下一个候选生成结构、学习与调节、prompt 与证据补强、工具和 AI agent 执行、评价与运营连接起来。发展史与 BERT 系列放在主线之后,作为背景地图与比较轴。

Module 1. 从 LLM 进入生成式 AI

Chapter 1. 生成式 AI 与 LLM 的位置 LLM Core

  • P6-1.1 把生成式 AI 输出看成需要检查的产出物:抓住生成结果不是分类值或数值预测,而是需要被检查的产出物。
  • P6-1.2 作为阅读生成式 AI 中心案例的 LLM:观察为什么把 LLM 当作代表路径,而不是把它等同于全部生成式 AI。
  • P6-1.3 生成是候选分布与选择的反复:把 Part 5 的候选分布与 sampling 直觉接回 LLM 生成流程。
  • P6-1.4 生成并不只有一种迭代方式:比较自回归的下一个词元选择与扩散的迭代复原,以及各自的控制值和运行记录。

Module 2. 文本生成的输入单位与表示

Chapter 2. token 与分词 LLM Core

  • P6-2.1 限制输入和输出的 token 单位:观察输入与输出为什么会在成本、长度限制和上下文保留上受到 token 单位约束。
  • P6-2.2 从字符串、token 到 token ID 的模型输入:把字符串、token、token ID 序列放在同一流程中区分。
  • P6-2.3 改变长度、成本与 chunk 的 tokenization:观察分词怎样改变长度、成本、chunk 与输出解释。
  • P6-2.4 连接到 prompt 长度、RAG chunk 与成本的 token 视角:把 token 标准应用到 prompt 长度、RAG chunk、成本预算与输出格式设计。
  • P6-2.5 补充学习:从运营观察值看见 tokenizer 家族差异:把 BPE、WordPiece、SentencePiece 的差异读成运营观察值。

Chapter 3. embedding LLM Core

  • P6-3.1 把 token ID 变成可比较坐标的 embedding:观察 token ID 为什么会变成可计算的向量表示。
  • P6-3.2 不是答案,而是生成候选的邻近向量:观察相近表达成为近候选的直觉及其边界。
  • P6-3.3 补充学习:学习近表达与远表达的 embedding 学习:观察什么应该被学得更近,什么应该被推得更远。
  • P6-3.4 补充学习:ANN 检索的速度与候选遗漏折中:观察快速缩小接近候选时出现的速度与候选遗漏取舍。

Module 3. 制造下一个候选的 LLM 结构

Chapter 4. 复习 Transformer 结构 Deep Learning Structure

  • P6-4.1 LLM 内部的 Transformer 计算流程:把 Transformer 重新读成上下文反映、表示更新与下一个候选打分的流程。
  • P6-4.2 attention 的参照范围:观察模型在有限范围内计算关系这一点。
  • P6-4.3 补充学习:attention head 与位置表示:区分顺序信息与多个关系轴。
  • P6-4.4 补充学习:KV cache 与重复生成:观察反复生成的重算负担。
  • P6-4.5 补充学习:长上下文与稀疏 attention:区分连接数量控制与长上下文保持。

Chapter 5. GPT 系列 LLM Core

  • P6-5.1 从 decoder 基础的累积生成结构看 GPT 系列:观察 decoder 中心的自回归生成系列的位置。
  • P6-5.2 加在生成结构之上的指令遵循与对话界面:观察 instruction following 与产品界面怎样改变使用体验。

Chapter 6. BERT 系列 LLM Core

  • P6-6.1 作为阅读中心 Transformer 比较轴的 BERT:比较 GPT 生成系列与 BERT 理解系列。
  • P6-6.2 在长回答前输出判断值的理解中心任务:观察分类、句子对判断、搜索与排序、embedding 复用。

Chapter 7. 下一个 token 预测与生成 LLM Core

  • P6-7.1 成为长生成出发点的下一个 token 预测:观察下一个 token 分布这个局部目标为什么能连接到长文本生成。
  • P6-7.2 改变回答稳定性与多样性的输出选择规则:观察 greedy、sampling、temperature 怎样改变稳定性与多样性。

Module 4. 形成回答习惯的学习与调节

Chapter 8. 预训练 Learning Principles

  • P6-8.1 先建立宽广语言基础的预训练:观察大规模文本怎样形成通用语言基础。
  • P6-8.2 同时扩大能力和运营负担的规模:把规模读成同时增加能力与运营负担的轴。

Chapter 9. 微调 Learning Principles

  • P6-9.1 需要按目的定制调整的微调:观察基础模型怎样被调向特定目标或领域。
  • P6-9.2 减轻全量微调负担的 LoRA:观察缩小调节范围怎样改变成本与迭代速度。

Chapter 10. 指令微调与对齐 LLM Core

  • P6-10.1 建立符合请求格式回应习惯的指令调优:观察遵循用户指令的回答习惯。
  • P6-10.2 区分很好遵循的回答和可接受回答的对齐:同时观察有用性、安全性、事实性与拒答标准。
  • P6-10.3 按格式、依据、执行不足来拆分 LLM 失败:按失败原因选择补强手段。
  • P6-10.4 补充学习:LoRA 的 low-rank 所小幅表示的调整分:解释 LoRA 如何用低秩矩阵表示权重调整量。
  • P6-10.5 补充学习:高效调整方式的约束:比较高效适配方法的结构与内存约束。

Module 5. prompt 与证据补强

Chapter 11. Prompt 工程 LLM Core

  • P6-11.1 调整输入指令、上下文、示例的提示工程:观察怎样用指令、上下文、示例与输出格式引导生成。
  • P6-11.2 把最新性、依据性、执行移到提示之外的限制:观察新近性、证据性、计算、执行与可复现性为什么不能只靠 prompt 解决。
  • P6-11.3 补充学习:观察和比较回答路径:区分 prompt 层补强策略及其边界。
  • P6-11.4 补充学习:提示候选的反复改进:观察提示候选、评价标准与验证集之间的关系。

Chapter 12. RAG Service Structure

  • P6-12.1 用外部依据代替模型记忆的 RAG:观察把外部证据作为输入上下文接上去,而不是增加模型内部记忆的结构。
  • P6-12.2 区分检索失败和生成失败的 RAG 流程:区分检索失败与生成失败。

Chapter 13. 向量数据库 Service Structure

  • P6-13.1 同时保存嵌入、原文和元数据的向量数据库:观察把 embedding 与 payload、metadata 一起保存并检索的结构。
  • P6-13.2 在搜索速度和候选质量之间取舍的索引:观察检索质量与 latency 的 trade-off。

Module 6. 工具与 AI agent 执行结构

Chapter 14. 工具使用(tool use) Service Structure

  • P6-14.1 把查询、计算、执行交给模型外部的工具使用:观察需要查询、计算、文件处理或状态确认的场景。
  • P6-14.2 把自然语言请求分成名称和参数的函数调用:观察自然语言请求怎样被结构化成函数名与参数。

Chapter 15. AI agent Service Structure

  • P6-15.1 根据中间结果改变下一项工作的 Agent:观察把目标连接到计划、工具调用、观察与状态判断的结构。
  • P6-15.2 分裂为继续、停止和人工审查的 Agent 循环:观察 AI agent loop 中继续探索、结束与人工检查的分支。

Chapter 16. MCP 与 harness Service Structure

  • P6-16.1 用共享格式连接工具和资源的 MCP:观察用共同形式连接工具与资源的接口层。
  • P6-16.2 包裹执行记录和可复现环境的 Harness:观察包住执行、日志、评价输入、批准与可复现性的环境。
  • P6-16.3 补充学习:Agent 工作流与图像生成工作流有什么不同?:比较控制流程、数据转换流程与执行记录的作用。

Module 7. 可检查的服务状态

Chapter 17. LLM 评价 LLM Core

  • P6-17.1 区分自然回答和质量标准的 LLM 评估:区分自然回答与质量标准。
  • P6-17.2 自动评估和人工评估的分工:观察重复检查与语境判断的分工。

Chapter 18. 服务运营约束 Service Structure

  • P6-18.1 按成本、延迟和使用量再次过滤的运营约束:观察成本、延迟、吞吐量与使用限制。
  • P6-18.2 把错误分到恢复路径的运营失败处理:把 hallucination、timeout、权限错误、format mismatch 分成恢复路径。

Chapter 19. 把一个小型生成式 AI 功能绑成一条流程 Project Practice

  • P6-19.1 连接问题、依据、回答和记录的小型生成式 AI 功能:把问题、证据、回答、状态判断与记录绑成一个流程。
  • P6-19.2 在响应前记录依据、状态和审查的最小实现:在进入 Part 7 前,收束为什么回答、依据、状态与回顾记录必须一起留下。

Module 8. 背景地图与比较

Chapter 20. LLM 发展史 History and Paradigm

  • P6-20.1 以限制和结构转换的流程阅读 LLM 发展史:观察从统计语言模型到 GPT 式界面的变化。
  • P6-20.2 区分直接谱系和周边证据的标准:区分 LLM 直接谱系与深度学习扩散的周边依据。

Chapter 21. 开放权重模型 Service Structure

  • P6-21.1 开放权重模型公开了什么?:区分权重公开、开源和公开 API,并一起考察许可、执行环境和运营责任。
  • P6-21.2 本地执行环境与内存放置:在直接运行开放权重模型时,区分 GPU VRAM、CPU RAM、dtype、量化和 CPU offloading,并把执行可行性与质量判断分开。
  • P6-21.3 每次改变一个条件来评估公开扩散模型:每次只改变一个扩散设置,分别记录输出质量、运行负担和可复现性。

Part 7. 项目

Part 7 不是独立的新理论 Part,而是把前面介绍过的内容拿来实作的空间。前段处理问题、输入单位、baseline 和比较实验;中段解释输入结构、学习曲线和错误案例;后段则通过日志与失败记录来检查 RAG、AI agent 以及部署和运营判断。

Module 1. 问题与基准线

Chapter 1. 分析起点与基准线设计 Project Practice

  • P7-1.1 定义项目问题与输入:说明即使使用同一份数据,只要预测目标或样本单位不同,项目就会变得不同,数据准备和实验设计也会一起改变。
  • P7-1.2 基线与首次比较:用比较表和失败案例说明,解读模型表现时应先看它比什么更好,而不是它看起来有多好。
  • P7-1.3 重新设计基线的练习:比较改变基准线分界日与比较单位后,回顾开头和结论会怎样变化。

Chapter 2. 传统机器学习的比较与改进 Project Practice

  • P7-2.1 阅读比较表和错误案例:把预测结果比较表和代表性错误案例放在一起解读,而不是只看一个分数。
  • P7-2.2 构建回顾与下一问题:把一次实验整理成 事实、解释、下一个问题,再把它交给下一轮。
  • P7-2.3 比较实验练习:把 baseline、raw 1-NN、部分缩放和标准化放在同一评估集上,区分哪些失败能靠预处理解决,哪些仍需要更多边界样本或特征。

Module 2. 比较与结构解释

Chapter 3. 输入结构与模型结构选择 Project Practice

  • P7-3.1 输入结构如何改变项目:比较表格、图像和序列输入怎样改变准备代码、样本检查方式和模型输入输出定义。
  • P7-3.2 比较 CNN、序列与注意力模型族:说明当输入结构和需要参考的关系不同,为什么要选择不同的计算结构。
  • P7-3.3 用实际分类器重新比较输入表示:用分类器比较输入表示如何影响准确率、置信度和待复核样本。

Chapter 4. 学习结果与表示检查 Project Practice

  • P7-4.1 一起阅读损失、指标与错误案例:通过学习曲线、评估指标和错误样本一起判断到底什么变好了。
  • P7-4.2 再次拆分失败结果:把低于预期的结果拆成结构问题、数据问题和 baseline 设定问题,再决定下一轮方向与修改优先级。
  • P7-4.3 表示标准化练习:比较规范化前后的请求,观察同义表达替换如何改变 coverage、预测和回顾优先级。
  • P7-4.4 比较相同平均值的不同模式:比较均值相同但空间排列不同的模式。

来源与参考资料

本文档是为了让读者更容易阅读当前项目的基准目录,而重新组织的内部文档。未直接引用外部资料。