跳转至

P6-11.2 把最新性、依据性、执行移到提示之外的限制

Section ID: P6-11.2 Version: v2026.07.31

记录 prompt 限制时,要一起写下 freshness_need、evidence_need、execution_need、consistency_need、outside_structure。这个区分可以避免把最新性、依据性、执行问题缩小成单纯 措辞 修改问题。

在 P6-11.1 中,我们看到提示工程(prompt engineering)是通过输入设计来观察和调整模型行为的第一个实务工具。现在要更直接地看:即使提示写得很好,仍然会留下什么问题。

提示是引导模型反应的强大工具,但它不是能独自解决最新性、事实性、依据保证、长期一致性的工具。

只靠输入调整无法确认的问题

  • 只靠提示难以解决的问题是什么?
  • 为什么看起来很好的提示在真实服务中仍可能不够?
  • 从什么时候开始需要 RAG、微调、工具使用、评估体系?

提示限制的核心,是区分 输入调整 和 必须改变系统结构的问题 的标准。最新性和依据问题,是把回答出发点改成外部文档的 RAG 问题;执行问题,是工具使用和函数调用的问题;重复判定,是评估结构的问题。

为了不过度评价提示工程,问题需要从 该怎样问 转向 即使问得很好,仍然留下什么问题。这里首先要改变的印象,不是 把提示写得更强就会解决,而是 输入调整和系统结构保证是不同层。

阅读提示限制时,最好同时看 接下来应该接上什么。

现在留下的问题 只要继续修改提示就够吗 下一步首先接上的结构 为什么结构会改变
回答格式和长度经常摇摆 有时是 提示改善或指令格式调整 因为它还可能在输入设计层解决。
需要最新政策或当前版本文档 不是 RAG、最新文档连接 因为回答的出发点必须移动到外部文档。
需要计算值、保存、查询等真实行动 不是 tool use、function calling 因为需要的不是话,而是真实执行结果。
必须反复检查同一失败并建立通过标准 不是 evaluation、harness 因为比起响应句子,更需要执行记录和判定结构。

也就是说,把提示写得更强是 输入调整,而转向 RAG、tool use、evaluation 是 改变系统结构的选择。

这里首先要留下的是失败类型备忘、格式摇摆统计、再现失败记录,用来说明哪些问题是输入调整限制,哪些问题是依据连接缺失。这个记录能让我们在 P6-12.1 转向 RAG 必要性判断时不动摇,也能区分哪些问题可以靠提示改善减少,哪些问题必须改变系统结构。越往后,这个记录会再次被读成 P6-16 的评估标准,以及 Part 6 的回顾备忘、改善计划、项目记录。

区分输入调整和系统结构保证

  • 能用入门水平说明提示的限制。
  • 能说明为什么最新性、事实性、一致性、可执行性问题会留下。
  • 能区分应该用提示解决的问题和必须改变结构的问题。
  • 能把 RAG 的必要性读成 依据连接结构,而不是 把提示写得更长。

首先要分开的场景包括:格式大致正确但最新事实不稳定;回答看似合理但出处难以信任;需要计算、保存、查询等行动,但只是回答句子变好;同一失败反复出现却难以比较原因。此时问题不应该是 要不要把提示写得更强,而应该是 最新文档连接、实际依据、执行结构、评估记录中缺了什么。

以这个区分为标准,提示限制就能从 更强措辞诀窍 更直接地读成 区分输入调整能减少的问题和必须改变结构的问题的标准。

为什么提示强大但不完整

提示是设计输入的工具。因此,它可以更好地引出模型已有能力,或者让格式更稳定。但只靠输入设计,无法解决模型外部的所有问题。

例如,提示可能擅长:

  • 调整回答长度
  • 控制格式
  • 用示例诱导模式
  • 调整语气

相反,只靠提示不会自动解决下面的问题。

  • 反映最新信息
  • 保证外部文档依据
  • 查询数据库
  • 验证计算结果
  • 长工作流程的可复现性

最新性问题

模型不会自动知道训练之后才出现的信息。即使提示写得更精细,也不能可靠保证模型从未见过的最新事实。

因此,请按最新信息回答 这个提示只是一个请求,不能替代外部最新数据连接。

这个点上就需要 RAG 或工具使用。

事实性和依据问题

即使提示里写 请带依据说明,模型也未必实际查询了依据文档。它可能生成看似合理的说明,但不能保证真的连接到了出处。

也就是说:

  • 要求依据的提示
  • 实际连接依据文档的系统

不是同一件事。

如果没有这个区分,用户可能把 看起来有出处的回答 误认为 已验证的回答。

一致性和可复现性问题

提示稍微改变、temperature 改变、上下文顺序改变,输出都可能改变。因此,只靠提示很难保证非常严格的可复现性。

在实务中,这会表现为:

  • 同一请求的表达摇摆
  • 分类标签细微变化
  • 表格格式偶尔破掉
  • 长任务中前后标准变化

这些问题可以用提示改善来减少,但很难完全消除。

执行和行动问题

提示本质上是文本输入。因此:

  • 实际数据库查询
  • 外部 API 调用
  • 文件修改
  • 计算结果保存

这些行动不会只靠提示发生。这样的阶段需要工具使用(tool use)、函数调用(function calling)、AI agent 结构。

也就是说,提示可以表达 行动请求,但不是行动执行结构本身。

把这个转换直接连接到下一步结构选择,会更清楚。最新信息空着时,需要 RAG 或最新文档连接;需要计算和保存等真实行动时,需要 tool use 或 function calling;必须持续比较并筛掉同一失败时,需要 evaluation、harness 等重复判定结构。

所以,提示限制不能只靠 把提示写得更强 确认。从外部比较标准看,从这里开始,工作不再只是 输入调整,而是选择先接上 依据连接、执行连接、还是 重复评估。

这个转换可以更短地诊断如下。

首先出现的问题 如果是,先看 如果不是,先看
当前不足是说话方式和格式吗? 重新调整提示指令、上下文、示例。 查看最新依据、执行、评估结构中缺了什么。
当前不足是最新文档和当前依据吗? 先检查 RAG 和最新文档连接。 看执行或重复评估是否更重要。
当前不足是实际查询、计算、保存等执行吗? 先检查 tool use、function calling、执行日志结构。 看重复判定和回归检测问题是否更大。
当前不足是重复判定和回归检测吗? 先检查 evaluation、harness、固定评估集。 再确认是否是提示层可以减少的摇摆。

极简图示

flowchart TD
  A["更好的提示"]
  B["更好的响应形状"]
  C["仍然缺少:最新数据、工具、验证"]

  A --> B
  B --> C

这个图的核心是:提示改善很重要,但它不能单独解决所有结构问题。

案例和示例

案例 1. 最新政策指引

可以想象用户问 从今天开始退款期限是几天? 的场景。人们容易期待,只要把提示写得更精细,比如要求 准确而谨慎地回答,最新性问题也会减少。但如果最新政策原文没有进入输入,模型可能说出旧标准。人们看到答案语气谨慎、文字断定时更容易相信,但这个场景中最容易错过的核心不是回答态度,而是 是否访问了当前文档。

没有最新文档连接时,礼貌的错误答案可能直接作为运营指引发出去。这里的变化,是从看 语气是否谨慎 转向看 最新文档依据是否实际接上。这种情况下,问题不是提示太弱,而是缺少连接最新信息的结构。因此这个案例要确认的结果不是语气,而是最新文档依据是否实际接上,以及只看文档 ID 是否也能重新确认它是不是当前版本。

这个案例之所以是真实运营场景,是因为政策指引工作要求的不是 最像真的答案,而是 当前有效的答案。客服、公司人事规定、配送政策、退款条件,并不会因为句子自然就结束。用户问的是今天标准下适用的条款,运营者必须能追踪答案来自哪个文档版本。所以无论提示句子多么谨慎,如果最新文档连接空着,系统仍然只是 很会说过去模式的助手。

同一问题中真正变化的内容,可以用表更清楚地看。

同一提问场景 只看提示时容易漏掉的东西 接上结构后要确认的东西
从今天开始退款期限是几天? 回答句子是否谨慎自然 最新政策文档是否实际被召回
听说本周开始规定改了,是真的吗? 模型是否谨慎地说 可能改了 依据的是哪个公告文档版本
例外条款也一起告诉我 答案是否长且亲切 正文条款和例外条款是否接在同一依据集合上

这个比较的核心是,更谨慎地说的回答 和 绑定到当前文档的回答 是不同层。这里纠正的误解是 谨慎表达也能某种程度解决最新性问题。实际上,减少最新性问题的第一步不是微调提示,而是接上当前文档召回和依据标记结构。

案例 2. 数值计算重要的报告

假设自动写周销售报告。人们容易期待,只要在提示中写 请准确计算数字并整理成表格,计算准确度也会提高。但如果没有计算工具就直接相信实际合计和增长率,小的算术错误可能原样进入报告。人们看到表格格式正确、句子流畅时,很容易觉得 看起来准确。

但这个场景需要的不是更强的句子,而是计算器或后处理验证那样重新检查数字的结构。只要一个计算格出错,后面的解释句和决策也可能一起偏离。这里的变化,是从看 表格是否像样 转向看 原始数值、合计、增长率是否真的一致。因此 请准确 的提示和 保证准确的结构 是不同问题。这个案例要确认的结果,不是表格句子,而是合计、增长率、原始数值是否相互一致,以及这种一致性是否能通过计算日志或验算记录再次查看。

在真实报告自动化中,一个数字格错误不会只停留在一句话错误,还可能影响下一次会议的判断和行动。尤其是销售额、库存、广告费、转化率这样相互连接的指标,一个项目错了,后面的解释整体都可能连锁偏离。所以运营者应该先确认 这个数字从哪里来、经过了什么计算、重新计算是否相同,而不是先看 表格是否漂亮。

例如,把周销售报告自动化拆成下面几步,提示和结构的差异会更清楚。

报告阶段 只靠提示经常留下的风险 接上结构后要确认的东西
读取原始数字 即使误解 CSV 或表格列,表面句子仍可能像样 读的是哪个原始行和列
计算合计·增长率 小算术错误可能一起传到表格和解释句 计算日志和重新计算结果是否一致
生成解释句 可能基于错误数字写出自然结论 解释句是否只引用已验算数值

这个案例中的重要标准是,请准确计算 的指令并不等于 准确性已被保证。计算问题按有没有验算结构分开,而不是按指令写得多强分开。因此实际操作中,在长时间打磨提示之前,应该先确认 是否接上计算器、中间合计是否留下日志、原始数值和结果数值是否能再次对齐。

案例 3. 重复业务自动化

假设运营团队想要一种自动化:读取上传文件,分类后保存到文件夹。如果请求句子足够具体,执行也容易感觉几乎解决了。但用提示可以把读取、分类、保存写成一句话,真实系统中却还需要文件访问权限、分类标准、保存位置、失败时重试等独立阶段。

在真实世界里,权限和工具连接比话语更重要。如果没有权限或保存路径错误,即使分类本身正确,任务也可能在最后保存阶段中断。也就是说,人可以用一句话说完,但执行世界需要接上多个工具和应用。这里的变化,是从看 请求句子是否具体 转向看 实际保存成功、失败处理、重试结构是否存在。所以这个场景中缺少的不是更长提示,而是执行结构本身。这个案例要确认的结果不是分类句子生成,而是实际保存成功、失败处理、重试路径是否存在,以及能否通过日志重新读出哪个阶段失败。

三个案例可以从结构限制角度重新整理如下。

情况 把提示写得更强也填不上的东西 实际上还要接上的结构
最新政策指引 最新信息访问 RAG 或最新文档连接
数值计算报告 算术准确度保证 计算工具、后处理验算
重复业务自动化 文件访问、保存、重试 tool use、权限处理、执行流程

同一内容按系统边界再看,可以这样读。

flowchart TD
  A["更强的提示"]
  B["响应可能看起来更好"]
  C{"缺少的部分是\n系统保证吗?"}

  A --> B --> C
  C -->|需要最新出处| D["文档访问"]
  C -->|需要数值正确性验证| E["计算验证"]
  C -->|需要真实执行| F["执行 + 重试流程"]

核心是 更强的句子 和 更强的系统保证 是不同层。

也就是说,到这里的结论是:把提示写得更好 和 把答案依据实际绑定到文档 是不同的。P6-11 开始正是沿着这个差异,阅读 答案的出发点应该放在哪里,而不只是调整说话方式。

需要提示外结构的场景

真实失败场景最常卡住的原因,是 答案很奇怪 这一句话里混着多个原因。读完本节后,需要先养成一次性写下 缺少什么才导致这个失败 的习惯。

实际首先看到的问题 首先接上的问题 首先要修的东西
回答语气和格式经常摇摆 同样材料下回答方式是否摇摆? 提示结构、示例、输出格式
今天标准下的政策答案总是不稳 系统实际读取当前文档了吗? RAG、最新文档连接
不确定计算值是否正确 能重新确认计算过程吗? 计算工具、验算日志
不知道保存·查询·发送是否实际完成 留下的是话语,还是执行记录? tool use、function calling、执行日志

这个表的核心是,不把 把提示写得更强 和 给系统接上其他结构 看成同一种改善。格式摇摆可以在提示层减少,但最新文档缺失或执行记录缺失,不会因为输入句子更精细而确认。

抓住这个标准再进入 P6-11,就不会把 RAG 误解成 提示扩展版。这里必须先固定一种感觉:让模型说得更好 和 把回答出发点绑定到外部依据 是不同层。这样,P6-11 的搜索·依据结合也会读得不那么压缩。

练习和示例

这个练习的目标是直接判断 强提示 和 真实结构保证 是不同问题。真实服务中不能只读回答句子,还要一起看 最新文档是否接上、是否有计算日志、是否留下执行日志 等验证项目。

用户可以同时期待最新政策、准确计算、实际保存执行。提示中可以强烈写上 以最新文档为依据、准确计算、保存完成,但如果没有最新文档连接、计算工具、保存工具,答案仍然可能停留在只说不做的指令。

先把要比较的验证项目整理成表,如下。

任务 用户期待的东西 只靠提示经常缺失的东西 要接上的结构
政策指引 按最新文档标准回答 最新版本文档 ID 文档搜索、最新版本连接
数值报告 计算值准确性 计算日志、重新计算依据 计算工具、后处理验算
文件自动化 实际保存完成 保存日志、重试信息 文件工具、执行日志

在下面三个场景中,首先要做的不是计算答案,而是标出哪个槽位空着,所以需要提示外结构。

场景 提示首先能减少的东西 需要系统结构的东西 要确认的记录
问 请告诉我今天标准下的退款期限 后,模型礼貌地回答 7 天 回答长度、语气、注意语句 当前有效的政策文档连接 文档 ID、文档版本、搜索时刻
问 请告诉我三个分店销售合计和平均 后,表格漂亮但合计错误 表格格式、说明顺序 计算工具和验算结构 原始行、计算日志、重新计算结果
问 请把合同保存到法务文件夹 后,模型回答已保存 报告句子格式 实际文件保存工具和权限处理 保存路径、保存日志、失败时重试记录

现在把同样场景改得稍微含糊一些,直接判定。空格中从 提示、RAG、工具使用、评估/日志 中写出首先要看的结构。

失败场景 首先要看的结构 理由
答案来自最新文档,但每次摘要格式不同
合计数字正确,但没有留下计算了哪些原始行的记录
文件保存成功,但失败时是否重试无法知道
答案自然、表格也正确,但政策文档版本标准是上个月

解说:

失败场景 首先要看的结构 理由
最新文档已接上,但摘要格式摇摆 提示 依据连接已经存在,所以首先要固定输出格式和示例
合计正确,但没有原始行记录 评估/日志 即使计算结果正确,没有可复现记录也难以运营验证
保存成功,但不知道是否会重试 工具使用 执行结构不仅包括成功,也包括失败处理和重试路径
表格和句子都好,但文档版本陈旧 RAG 问题不是语气或格式,而是答案出发点没有绑定到当前文档

这个练习中要确认的是,写强提示就够 和 必须接结构 不是同一判断。提示擅长改变回答形状,但最新文档版本、计算可复现性、保存成功、失败处理记录,必须有单独结构才能确认。

系统边界上留下的失败类型

这个练习会阻止一种误解:提示越强,所有问题都会解决。真实服务中,最新信息访问、计算验证、工具调用和执行日志等外部结构是单独需要的,所以提示只能读成系统整体中的一个层。

上面的判定表中重要的是,结构补强并不是一个万能装置。最新性转向依据连接,计算转向验算结构,保存转向执行工具和日志,重复失败检测转向评估记录。因此,提示限制不应读成 语气问题,而应读成 依据、计算、执行、评估结构中缺了什么。

移到提示之外的边界

提示擅长改变响应形状,但最新文档访问、计算验证、真实执行成功这样的系统保证,必须有单独结构才能确保。

更重要的是要抓住:用输入设计改变响应形状 和 保证最新性、依据、可执行性 不是同一个问题。因此,提示限制比起把提示写得更长,更适合读成判断什么时候需要 RAG、tool use、evaluation 等结构的边界。

  • 最新性不足
  • 依据不足
  • 输出摇摆
  • 无法执行

也就是说,从这里开始,只继续打磨提示已经不够,依据连接要转给 RAG,执行要转给 tool use 和 AI agent,验证和运营要转给 evaluation 和 harness。

这个边界重要的原因如下。

  • 让前面的 P6-11.1 提示工程保持为 输入设计的第一个控制点,但不把它误解成万能解法。
  • 帮助判断什么时候要增加结构。
  • 自然连接到下一章 P6-12.1、P6-12.2 的 RAG,以及后面的 P6-14.1 工具使用、P6-15.1 agent。

检查清单

  • 能把 更强的句子 和 更强的系统保证 说明为不同问题吗?
  • 能说明最新性错误、计算错误、执行失败分别连接到哪种结构缺失吗?
  • 准备好把下一章读成 改变答案依据出发点的结构,而不是 提示扩展版 吗?

出处和参考资料