跳转至

P1-6.2 区分概率、不确定性与随机过程

Section ID: P1-6.2 Version: v2026.07.20

6.1 已经说明了，为什么有些问题很难只靠显式规则处理。当信息不完整、观测会波动、可能结果不止一个时，AI 就必须处理不确定性。

这一节要把三个经常混在一起的表达拆开：

uncertainty = 不确定性，是“还不能确定知道”的状态
probability = 概率，是表达这种不确定性的数字语言
stochastic = 随机过程或随机性质，表示过程本身带有概率性的波动

这三者彼此相关，但不是同一个东西。

在 Part 1 里，uncertainty、probability 和 stochastic process 的基准区分先在这里固定。6.1 先说明了为什么会需要这些概念，这一节则给出阅读这些问题时所需的词汇基线。search 和 heuristics 会在 P1-7 回来，更完整的概率公式会在 Part 2 和 Part 4 回来。

为什么需要这个区分

“AI 是按概率回答的”这句话看起来简单，实际上会分裂成几个不同问题：

问题 连接到的概念
如果再观察到更多信息，判断会改变吗？ 不确定性、证据
模型给出的 0.70 这个数字到底该信多少？ 概率、校准
为什么同一个动作重复执行，结果还是会略有变化？ 随机过程
“因为信息不足而不知道”和“世界本身就会波动”是同一回事吗？ 认知不确定性、偶然不确定性

Hüllermeier 和 Waegeman 说明，不确定性是机器学习里的核心方法论问题，而且随着实际部署和安全要求增加，区分 aleatoric uncertainty 和 epistemic uncertainty 变得越来越重要。这里不会深入这两个类别，只先留下一个感觉：不确定性本身也有种类。

这里的三条基准问题是：

这是那种“多观察一点就会缩小”的未知吗？
这是那种“即使重复也还会留下来”的波动吗？
模型给出的数字和真实频率对得上吗？

6.2 先固定 uncertainty、probability 与 stochastic process 到底有什么不同。条件概率、Bayes' rule 和概率分布的计算，会在 Part 2 的统计基础章节以及 Part 4 的评价与预测章节回来。LLM 的 sampling 与 next-token prediction 会在 Part 6 的 P6-5.1、P6-5.2 继续处理。这里先只建立阅读 AI 文档所需的词汇基线。

区分不确定性、概率与 stochastic 的基准

  • 把 uncertainty 理解成“还不能确定”的状态。
  • 把 probability 理解成表达和更新不确定性的数字语言。
  • 把 stochastic 理解成“过程本身带有概率性波动”的性质。
  • 避免把 random、nondeterministic 和 stochastic 当成同义词。
  • 为中文语境里的相关表达建立一个不容易混淆的基准。

三个基准

基准 为什么重要 本节需要达到的理解程度
不确定性是“还不知道”的状态 这样能避免它直接和数值化的概率混在一起。 理解它是数字出现之前的未知状态。
概率是表达这种未知的数字语言 这会成为理解模型分数和概率解释的起点。 把它理解成比较哪个候选更可信的工具。
stochastic 指的是“过程本身包含波动” 这样能减少把不确定性、概率和随机性说成同一回事的错误。 理解不只是结果会变，过程本身也可能会变。

先保留下面这个角色分拆就够了：

术语 极短含义 本节里的作用
uncertainty 不知道 数字表达之前的状态
probability 数字 对这种状态的数字化表达
stochastic process 会波动的过程 行为本身包含概率性变动
random 任意或随机选择 不能被用得过于宽泛
nondeterministic 结果不固定成唯一值 不一定等同于概率建模

不确定性是“还不知道”的状态

uncertainty 指的是：某个事实、状态或结果还不能被确定说清。

场景 什么是不确定的？
客服消息 真实意图到底是配送还是退款
传感器输入 测到的值是否真的等于实际距离
医疗诊断 只看症状能不能确定原因
配送预测 明天能否到达，还是会延迟

Poole 和 Mackworth 说明，现实世界中的智能体并不是“什么都知道”的存在，它必须根据观测去更新自己的信念。Stanford Encyclopedia of Philosophy 的 AI 条目也指出，纯逻辑式方法并不总能决定所有命题的真伪，因为无知、物理世界的不定性和表达的模糊性，经常会把问题带向概率式处理。

uncertainty = 还不能有把握地下结论的状态

不确定性本身不是数字。它是数字表达之前的问题状态。

概率是不确定性的数字语言

probability 是处理不确定状态时使用的数学语言。Poole 和 Mackworth 把概率说明成一种“信念的计算方式”，并说明新的信息到来后，信念可以被更新。

假设一个客服消息分类器给出下面这些分数：

候选 分数
配送 0.70
退款 0.20
其他 0.10

这个数字不表示“配送绝对为真”。它更接近这样一句话：在当前模型掌握的信息和标准下，配送目前看起来更可信。

Poole 和 Mackworth 说明，概率是 0 到 1 之间的数。0 对应“认为是假”，1 对应“认为是真”。中间值并不表示这个事实“半真半假”，而是表示智能体还不能确定它是真还是假。

不确定性：还不能确定这是配送还是退款。
概率：把它写成配送 0.70、退款 0.20、其他 0.10。

所以，概率不是不确定性本身，而是表达、比较和计算不确定性的方式。

像 0.70 这样的数字到底能信多少

模型给出 0.70，并不自动意味着它总能对应真实世界里约 70% 的频率。scikit-learn 说明，在分类任务里，人们常常不仅想拿到类别标签，也想拿到概率，但有些模型对类别概率的估计并不好。

这就会引出 calibration 的问题：

如果把模型说 0.70 的案例都收集起来，
其中大约 70% 真的会是对的吗？

这就是校准问题的起点。

因此，在这一节里，像 配送 0.70 这样的分数需要被更谨慎地理解：

草率的读法 更安全的读法
配送有 70% 的真值 在当前数据和模型标准下，配送候选被打成了 0.70
模型说 70%，所以就能相信 还要另外检查这个模型的概率输出是否经过良好校准
0.70 是绝对可信度 这个数字的含义会受数据、模型和评估方式影响

证据是会改变信念的观测信息

Poole 和 Mackworth 把观测到的信息看成 evidence，并说明可以根据这些证据把 prior probability 更新成 posterior probability。

换回客服消息的例子：

阶段 例子
初始判断 只看到“查不到物流”时，配送问题看起来比较像
新增证据 支付日志显示重复扣款
更新后的判断 这可能不只是配送问题，也需要考虑支付异常

这里不会计算 Bayes' rule。重点只是：新观测一旦进入，不同结论的可信程度就可能改变。

观测变了，
候选结论的可信程度也可能跟着变。

stochastic 指的是“过程本身带有概率性波动”

stochastic 经常被简单翻成“概率性的”或“随机的”，但它并不等同于 probability。

英文表达 这里的理解 中心含义
probability 概率 表达不确定性的数字或分布
probabilistic 概率式的 用概率来表达或计算
stochastic 随机过程或随机性质 过程、动作或结果里含有概率性波动

Poole 和 Mackworth 说明，某些动作可以像 stochastic process 那样工作。比如机器人移动时可能会略微冲过目标点；又比如即使给学生教同样内容，也不能保证学生每次都一定学会。

这里最有用的直觉是：

即使重复同样的动作，
也不保证每次都得到同样结果。

场景 为什么可以被看成 stochastic
机器人移动 同样指令也可能因为摩擦、传感器或地面状态而略微偏移
用户反应 展示同样推荐，不保证用户一定做出同样点击
LLM 响应生成 同一提示词也可能因生成设置和采样方式不同而给出不同措辞

但 stochastic 不等于“完全随便来”。它更接近“这种波动仍然服从某种概率规则或分布”。

random、stochastic 和 nondeterministic 要谨慎区分

很多语境里，random、stochastic 和 nondeterministic 容易混着说。在 AI 文档里，最好把它们分开：

英文表达 这里优先采用的含义 注意点
random 任意或随机选择 不要把它说成完全无结构的混乱
stochastic 过程里带有概率性波动 会变化，不等于没有结构
nondeterministic 对同一状态和输入，结果不固定成唯一值 不一定显式给出概率分布
probabilistic 用概率表达或计算 也可能只是建模语言，而不等于过程本身

例如，LLM 对同一提示词可能会给出不同答案，这并不适合被直接说成“它就是随便回答”。更安全的说法是：

输出会随着生成设置和采样方式而变化。

韩语表达：불확실성 与 불확정성

在韩语资料或日常讨论里，有时还会出现 불확정성 这个表达。这本书在一般 AI 说明里，优先使用 불확실성(uncertainty)。

불확실성 更适合说明因为信息不足或观测不完整，所以还不能确定知道的状态。相对地，불확정성 在韩语里也可能让人联想到物理学中的“不确定性原理”一类表达。

因此，这本书在这里先采用下面这套基准：

韩语表达 英文对应 使用基准
불확실성 uncertainty 用来说明一般 AI 语境中的未知状态、部分观测、噪声与预测不确定性
확률 probability 用来把不确定性表达成 0 到 1 之间的数字或分布
확률적 probabilistic, stochastic 用来说明使用概率，或说明过程本身带有概率性波动
불확정성 需另行确认 如果不是特定学科术语，在一般 AI 说明里先避免使用

这里这样区分，并不是要勉强控制韩语词汇本身，而是为了不让初学者把不同层次的概念混着读。读到这些词时，最好再确认一次：当前这句话说的是“未知状态”、数字表达，还是“过程里的波动性”。

再用同一个例子看一遍

还是看这句客服消息：

我昨天刚下单，但现在还查不到物流。

视角 说明
不确定性 还不知道真正原因是配送延迟、系统同步延迟，还是支付问题
概率 以当前信息看，可以写成配送 0.70、支付 0.20、其他 0.10
证据 订单时间、支付日志、快递接口状态等额外观测
随机过程 配送时间、用户反应等过程本身就可能带有概率性波动

保持这个区分以后，“AI 是按概率工作的”这句话就能被读得更精确。问题里有一部分是在谈不确定性，有一部分是在谈数字化的概率，还有一部分是在谈过程本身的随机性质。

检查清单

  • 能把 uncertainty 说明成“状态上的未知”，而不是一个数字。
  • 能把 probability 说明成表达和更新不确定性的数字语言。
  • 能说明 evidence 是会更新判断的观测信息。
  • 能把 stochastic 说明成“过程或动作里带有概率性波动”的性质。
  • 能说明 random、stochastic、nondeterministic 和 probabilistic 不该被当成同义词。
  • 能说明在一般 AI 语境里，应该先把“未知状态”“数字表达”“过程波动”分开，而不是混成一句模糊的话。
  • 能区分当前句子是在说“未知状态”“数字表达”还是“过程性质”。
  • 能区分“多观察后会缩小的未知”和“过程本身仍会保留的波动”。

来源与参考资料