跳转至

P2-4.1 重新看我们是怎样学微分的

Section ID: P2-4.1 Version: v2026.07.20

在 Part 2 Chapter 3 中,我们通过标量(scalar)、向量(vector)、矩阵(matrix)看到了数据与模型计算的形状。现在,在 Part 2 Chapter 4 里,我们转向微分(differentiation)。

但如果一开始就把公式放到前面,很容易让人失去它和“变化问题”之间的连接。这里先把很久以前学过的记忆重新拿出来,再把这些记忆重新改写成 AI 学习需要的问题。

本节重新整理 微分(differentiation)变化比较(change comparison)瞬时变化率(instantaneous rate of change)切线(tangent line)记忆恢复。如果说 Chapter 3 读的是数据形状与向量计算,那么这里就从“当数值变化时,我们应该问什么”这个微分入口重新开始。

这里关注的不是正式的微分公式训练,而是把“变化率”这个问题重新提出来。只要先把微分重新抓成 输入稍微变化时,输出会变化多少? 这个问题,那么后面看到损失(loss)、梯度(gradient)、参数更新(parameter update)时,数学就不会那么容易断开。

对读者来说,这里再搭一座桥会更好。Chapter 4 之所以重新读微分,是为了在 Chapter 6 里读懂怎样朝着减小损失(loss)的方向移动。也就是说,后面的流程会连成 变化问题 -> 变化率 -> 梯度 -> 学习更新

现在本节要抓住的东西 紧接着会出现的问题 之后再次使用的位置
微分首先是“变化比较”的问题,而不是公式这一点 P2-4.2 中,我们会更直接地看变化率与斜率。 P2-6.1P2-6.2P2-6.3 里读损失下降的方向时会再次使用。
把过去数学记忆重新改写成当前问题的方法 会接到 P2-4.3 之后的导数与图像解释。 在 Part 4 里读反向传播与梯度说明时,它会成为背景。
距离-速度-加速度这样的变化直觉 P2-4.2 中,我们会区分平均变化率与瞬时变化率。 在模型学习里解释数值变化的方向与大小时会再次出现。

先看的连接流程

如果把现在要抓住微分入口的原因压缩成一张表,就是下面这样。

当前阶段 读者要抓住的问题 紧接着的连接
存在变化这件事 什么在变化? P2-4.2 里的变化率与斜率
比较变化大小 输入变一点,输出会变多少? P2-4.3P2-4.4 里的微分与梯度
读取变化方向 朝哪边移动会让值变大或变小? P2-6.1P2-6.3 里的损失与梯度下降
连接到学习 想减小损失时,参数该怎么改? Part 4 的反向传播与 optimizer

从这张表看,Chapter 4 不是一个背公式的章节,而是一个为学习为什么必须读取变化方向做准备的章节。

核心判断标准:重新看我们是怎样学微分的

  • 你可以说明为什么微分(differentiation)会让人觉得遥远。
  • 你可以先把微分重新读成数值变化比较的问题,而不是公式。
  • 你可以说出为什么微分感会连到损失(loss)与学习(learning)的说明。

三个判断标准

标准 为什么重要 本节需要达到的理解程度
把微分重新读成变化比较的问题 如果记忆里只剩公式,就需要把它重新连回变化的意义,后面几节数学才不会断得太厉害。 理解微分是 输入稍微变化时,输出会变化多少? 这个问题。
把过去数学记忆改写成当前问题 切线、瞬时速度、微分系数之类的记忆,需要重新串成一条流程。 理解过去的这些记忆都放在“变化率问题”的周围。
这个问题会接到损失与学习 因为 AI 学习也会继续变成读取数值变化与调整方向的问题。 理解微分入口是损失、梯度、参数调整说明的起点。

学微分时会想起的话

如果你很久以前学过微分,下面这些表达可能会最先浮现出来。

  1. 你可能会想到切线的斜率。
  2. 你可能会想到瞬时变化率。
  3. 你可能会想到瞬时速度。
  4. 你可能会想到导函数与微分系数。
  5. 你可能会想到用极限定义的式子和公式计算题。

这些表达都和微分有关。但第一次学习时,它们往往不会被记成一条相互连接的流程,而更容易被记成“为了考试解题的一组公式”。

你可以先向自己提出下面这些问题。

  1. 一听到“微分”,你最先想到的是什么? 可能是切线斜率,也可能是公式,也可能是瞬时速度。
  2. 这个记忆更接近计算方法,还是更接近意义? 如果最先想到的只有公式,那就可能是计算方法还在,但意义已经模糊了。
  3. 如果想把意义重新抓回来,应该先看什么? 先重新回到“数值在变化”以及“比较这种变化”这两个说法。

例如,你也许是这样学过的。

  1. 在函数图像上画切线。
  2. 计算两点之间的斜率。
  3. 让两点越来越接近。
  4. 取极限后得到一点处的斜率。
  5. 把这个值叫作微分系数或导数。

这套说明和标准的微分入门是很吻合的。但时间一久,为什么要让两点靠近为什么斜率重要这和 AI 学习有什么关系就可能慢慢模糊掉。

距离、速度、加速度的记忆

学微分时很容易留下印象的一个例子,是时间(time)下的距离(distance)、速度(velocity)、加速度(acceleration)关系。

距离表示位置随着时间变化了多少。速度表示距离随时间变化得有多快。加速度表示速度随时间变化得有多快。

  1. 距离会随着时间变化。
  2. 距离对时间的变化率就是速度(velocity)。
  3. 速度对时间的变化率就是加速度(acceleration)。

这个例子会让我们把微分读成:不是“公式计算”,而是“一个值的变化会变成另一个值意义的结构”。

AI 学习也需要类似的想法。因为只有读出损失(loss)是怎样变化的,才能判断参数(parameter)应该朝哪个方向改。

这里也可以换一种提问方式。

  1. 从时间的角度看距离,就会得到速度。
  2. 从时间的角度看速度,就会得到加速度。
  3. 所以,微分可以读成一种工具,用来观察一个值相对于另一个值变化了多少。

点、线、面、体积的记忆

另一种记忆,可能是从点(point)、线(line)、面(area)、体积(volume)持续展开的关系。

  1. 想象一个点(point)。
  2. 点连起来,可以想到线(line)。
  3. 线移动或堆叠起来,可以想到面(area)。
  4. 面堆叠起来,可以想到体积(volume)。

点连起来可以想到线,线移动或堆叠起来可以想到面,面堆叠起来可以想到体积。

这条流程更接近累积(accumulation)的直觉:小变化不断堆积,构成更大的对象。微分(differentiation)则更像是反过来,从整体变化的流程里去读取很小的变化率。

但这里不会深入处理积分(integration)或维度(dimension)。只需要抓住一个记忆:变化与累积原本就是彼此相关联的数学思路。

这个记忆可以整理成下面这样。

  1. 如果点连起来,会想到什么? 会想到线。
  2. 如果线移动或堆叠起来,会想到什么? 会想到面。
  3. 如果面堆叠起来,会想到什么? 会想到体积。
  4. 这条流程是微分,还是累积? 它更接近累积的直觉。但在一起理解微分与积分时,它会成为重要的背景记忆。

为了重新阅读微分而提出的问题

现在,把微分不是当成公式,而是当成下面这些问题重新来读。

  1. 输入稍微变化时,输出会变化多少?
  2. 在这个点上,数值是在变大还是变小?
  3. 如果想让数值减小,应该朝哪个方向移动?
  4. 如果小变化不断累积,整体变化会呈现成什么样子?

只要这些问题抓住了,变化率(rate of change)、斜率(slope)、导数(derivative)、梯度(gradient)这些词就不会只剩下“完全陌生的术语”。

案例与示例

案例 1. 当配送时间变长时,应该先问什么?

假设一个物流团队在运营订单处理系统。有人报告说,与上周相比,平均配送时间变长了。现场的人会先看一些数字,比如 延迟单数平均配送时间耗时最长的订单

但如果只是把数字列出来,就很难说明“到底什么在变化”。我们不知道是不是因为订单量增多导致变慢,也不知道是不是只有某个地区的配送变慢,或者是不是出库处理速度发生了变化。

这时真正需要的问题,不只是 数值是多少?,而是 某个输入变化时,结果会怎么变化? 比如订单量稍微增加时,配送时间会增加多少;夜间订单占比变高时,延迟会加重多少。只有比较这种“变化本身”,我们才开始读到原因。

重新阅读微分的第一步也很像这里。我们不会立刻套公式,而是先问:什么发生了变化,这个变化又带来了什么结果差异? 后面几节学习变化率与斜率,也是为了把这个问题问得更精确。

可以验证的结果可以这样设定:把订单量增加 10% 的日子与平均配送时间是否同时上升,或者把某个时段订单占比升高时延迟单数是否变多,用表格或简单散点图对比一下,先检查 这些变化是不是一起变化

检查清单

  • 一听到微分,你能不能说出自己先想到的是切线斜率、瞬时变化率,还是瞬时速度?
  • 当公式先浮现出来时,你能不能重新追问这个公式在处理什么变化意义?
  • 你能不能把距离、速度、加速度的关系解释成变化率的例子?
  • 你能不能说明点、线、面、体积的关系和累积直觉相连?
  • 你能不能把微分重新看成不是公式背诵,而是 小变化会怎样影响输出? 这个问题?
  • 你能不能把切线、微分系数、瞬时速度这些词串成同一个变化问题?
  • 你能不能说明为什么在阅读损失或梯度说明之前,要先恢复 数值到底变化了多少? 这个问题?

来源与参考资料