P6-11.2 把最新性、依据性、执行移到提示之外的限制¶
Section ID:
P6-11.2Version:v2026.07.31
记录 prompt 限制时,要一起写下 freshness_need、evidence_need、execution_need、consistency_need、outside_structure。这个区分可以避免把最新性、依据性、执行问题缩小成单纯 措辞 修改问题。
在 P6-11.1 中,我们看到提示工程(prompt engineering)是通过输入设计来观察和调整模型行为的第一个实务工具。现在要更直接地看:即使提示写得很好,仍然会留下什么问题。
提示是引导模型反应的强大工具,但它不是能独自解决最新性、事实性、依据保证、长期一致性的工具。
只靠输入调整无法确认的问题¶
- 只靠提示难以解决的问题是什么?
- 为什么看起来很好的提示在真实服务中仍可能不够?
- 从什么时候开始需要 RAG、微调、工具使用、评估体系?
提示限制的核心,是区分 输入调整 和 必须改变系统结构的问题 的标准。最新性和依据问题,是把回答出发点改成外部文档的 RAG 问题;执行问题,是工具使用和函数调用的问题;重复判定,是评估结构的问题。
为了不过度评价提示工程,问题需要从 该怎样问 转向 即使问得很好,仍然留下什么问题。这里首先要改变的印象,不是 把提示写得更强就会解决,而是 输入调整和系统结构保证是不同层。
阅读提示限制时,最好同时看 接下来应该接上什么。
| 现在留下的问题 | 只要继续修改提示就够吗 | 下一步首先接上的结构 | 为什么结构会改变 |
|---|---|---|---|
| 回答格式和长度经常摇摆 | 有时是 | 提示改善或指令格式调整 | 因为它还可能在输入设计层解决。 |
| 需要最新政策或当前版本文档 | 不是 | RAG、最新文档连接 | 因为回答的出发点必须移动到外部文档。 |
| 需要计算值、保存、查询等真实行动 | 不是 | tool use、function calling | 因为需要的不是话,而是真实执行结果。 |
| 必须反复检查同一失败并建立通过标准 | 不是 | evaluation、harness | 因为比起响应句子,更需要执行记录和判定结构。 |
也就是说,把提示写得更强是 输入调整,而转向 RAG、tool use、evaluation 是 改变系统结构的选择。
这里首先要留下的是失败类型备忘、格式摇摆统计、再现失败记录,用来说明哪些问题是输入调整限制,哪些问题是依据连接缺失。这个记录能让我们在 P6-12.1 转向 RAG 必要性判断时不动摇,也能区分哪些问题可以靠提示改善减少,哪些问题必须改变系统结构。越往后,这个记录会再次被读成 P6-16 的评估标准,以及 Part 6 的回顾备忘、改善计划、项目记录。
区分输入调整和系统结构保证¶
- 能用入门水平说明提示的限制。
- 能说明为什么最新性、事实性、一致性、可执行性问题会留下。
- 能区分应该用提示解决的问题和必须改变结构的问题。
- 能把 RAG 的必要性读成
依据连接结构,而不是把提示写得更长。
首先要分开的场景包括:格式大致正确但最新事实不稳定;回答看似合理但出处难以信任;需要计算、保存、查询等行动,但只是回答句子变好;同一失败反复出现却难以比较原因。此时问题不应该是 要不要把提示写得更强,而应该是 最新文档连接、实际依据、执行结构、评估记录中缺了什么。
以这个区分为标准,提示限制就能从 更强措辞诀窍 更直接地读成 区分输入调整能减少的问题和必须改变结构的问题的标准。
为什么提示强大但不完整¶
提示是设计输入的工具。因此,它可以更好地引出模型已有能力,或者让格式更稳定。但只靠输入设计,无法解决模型外部的所有问题。
例如,提示可能擅长:
- 调整回答长度
- 控制格式
- 用示例诱导模式
- 调整语气
相反,只靠提示不会自动解决下面的问题。
- 反映最新信息
- 保证外部文档依据
- 查询数据库
- 验证计算结果
- 长工作流程的可复现性
最新性问题¶
模型不会自动知道训练之后才出现的信息。即使提示写得更精细,也不能可靠保证模型从未见过的最新事实。
因此,请按最新信息回答 这个提示只是一个请求,不能替代外部最新数据连接。
这个点上就需要 RAG 或工具使用。
事实性和依据问题¶
即使提示里写 请带依据说明,模型也未必实际查询了依据文档。它可能生成看似合理的说明,但不能保证真的连接到了出处。
也就是说:
- 要求依据的提示
- 实际连接依据文档的系统
不是同一件事。
如果没有这个区分,用户可能把 看起来有出处的回答 误认为 已验证的回答。
一致性和可复现性问题¶
提示稍微改变、temperature 改变、上下文顺序改变,输出都可能改变。因此,只靠提示很难保证非常严格的可复现性。
在实务中,这会表现为:
- 同一请求的表达摇摆
- 分类标签细微变化
- 表格格式偶尔破掉
- 长任务中前后标准变化
这些问题可以用提示改善来减少,但很难完全消除。
执行和行动问题¶
提示本质上是文本输入。因此:
- 实际数据库查询
- 外部 API 调用
- 文件修改
- 计算结果保存
这些行动不会只靠提示发生。这样的阶段需要工具使用(tool use)、函数调用(function calling)、AI agent 结构。
也就是说,提示可以表达 行动请求,但不是行动执行结构本身。
把这个转换直接连接到下一步结构选择,会更清楚。最新信息空着时,需要 RAG 或最新文档连接;需要计算和保存等真实行动时,需要 tool use 或 function calling;必须持续比较并筛掉同一失败时,需要 evaluation、harness 等重复判定结构。
所以,提示限制不能只靠 把提示写得更强 确认。从外部比较标准看,从这里开始,工作不再只是 输入调整,而是选择先接上 依据连接、执行连接、还是 重复评估。
这个转换可以更短地诊断如下。
| 首先出现的问题 | 如果是,先看 | 如果不是,先看 |
|---|---|---|
| 当前不足是说话方式和格式吗? | 重新调整提示指令、上下文、示例。 | 查看最新依据、执行、评估结构中缺了什么。 |
| 当前不足是最新文档和当前依据吗? | 先检查 RAG 和最新文档连接。 | 看执行或重复评估是否更重要。 |
| 当前不足是实际查询、计算、保存等执行吗? | 先检查 tool use、function calling、执行日志结构。 | 看重复判定和回归检测问题是否更大。 |
| 当前不足是重复判定和回归检测吗? | 先检查 evaluation、harness、固定评估集。 | 再确认是否是提示层可以减少的摇摆。 |
极简图示¶
flowchart TD
A["更好的提示"]
B["更好的响应形状"]
C["仍然缺少:最新数据、工具、验证"]
A --> B
B --> C
这个图的核心是:提示改善很重要,但它不能单独解决所有结构问题。
案例和示例¶
案例 1. 最新政策指引¶
可以想象用户问 从今天开始退款期限是几天? 的场景。人们容易期待,只要把提示写得更精细,比如要求 准确而谨慎地回答,最新性问题也会减少。但如果最新政策原文没有进入输入,模型可能说出旧标准。人们看到答案语气谨慎、文字断定时更容易相信,但这个场景中最容易错过的核心不是回答态度,而是 是否访问了当前文档。
没有最新文档连接时,礼貌的错误答案可能直接作为运营指引发出去。这里的变化,是从看 语气是否谨慎 转向看 最新文档依据是否实际接上。这种情况下,问题不是提示太弱,而是缺少连接最新信息的结构。因此这个案例要确认的结果不是语气,而是最新文档依据是否实际接上,以及只看文档 ID 是否也能重新确认它是不是当前版本。
这个案例之所以是真实运营场景,是因为政策指引工作要求的不是 最像真的答案,而是 当前有效的答案。客服、公司人事规定、配送政策、退款条件,并不会因为句子自然就结束。用户问的是今天标准下适用的条款,运营者必须能追踪答案来自哪个文档版本。所以无论提示句子多么谨慎,如果最新文档连接空着,系统仍然只是 很会说过去模式的助手。
同一问题中真正变化的内容,可以用表更清楚地看。
| 同一提问场景 | 只看提示时容易漏掉的东西 | 接上结构后要确认的东西 |
|---|---|---|
从今天开始退款期限是几天? | 回答句子是否谨慎自然 | 最新政策文档是否实际被召回 |
听说本周开始规定改了,是真的吗? | 模型是否谨慎地说 可能改了 | 依据的是哪个公告文档版本 |
例外条款也一起告诉我 | 答案是否长且亲切 | 正文条款和例外条款是否接在同一依据集合上 |
这个比较的核心是,更谨慎地说的回答 和 绑定到当前文档的回答 是不同层。这里纠正的误解是 谨慎表达也能某种程度解决最新性问题。实际上,减少最新性问题的第一步不是微调提示,而是接上当前文档召回和依据标记结构。
案例 2. 数值计算重要的报告¶
假设自动写周销售报告。人们容易期待,只要在提示中写 请准确计算数字并整理成表格,计算准确度也会提高。但如果没有计算工具就直接相信实际合计和增长率,小的算术错误可能原样进入报告。人们看到表格格式正确、句子流畅时,很容易觉得 看起来准确。
但这个场景需要的不是更强的句子,而是计算器或后处理验证那样重新检查数字的结构。只要一个计算格出错,后面的解释句和决策也可能一起偏离。这里的变化,是从看 表格是否像样 转向看 原始数值、合计、增长率是否真的一致。因此 请准确 的提示和 保证准确的结构 是不同问题。这个案例要确认的结果,不是表格句子,而是合计、增长率、原始数值是否相互一致,以及这种一致性是否能通过计算日志或验算记录再次查看。
在真实报告自动化中,一个数字格错误不会只停留在一句话错误,还可能影响下一次会议的判断和行动。尤其是销售额、库存、广告费、转化率这样相互连接的指标,一个项目错了,后面的解释整体都可能连锁偏离。所以运营者应该先确认 这个数字从哪里来、经过了什么计算、重新计算是否相同,而不是先看 表格是否漂亮。
例如,把周销售报告自动化拆成下面几步,提示和结构的差异会更清楚。
| 报告阶段 | 只靠提示经常留下的风险 | 接上结构后要确认的东西 |
|---|---|---|
| 读取原始数字 | 即使误解 CSV 或表格列,表面句子仍可能像样 | 读的是哪个原始行和列 |
| 计算合计·增长率 | 小算术错误可能一起传到表格和解释句 | 计算日志和重新计算结果是否一致 |
| 生成解释句 | 可能基于错误数字写出自然结论 | 解释句是否只引用已验算数值 |
这个案例中的重要标准是,请准确计算 的指令并不等于 准确性已被保证。计算问题按有没有验算结构分开,而不是按指令写得多强分开。因此实际操作中,在长时间打磨提示之前,应该先确认 是否接上计算器、中间合计是否留下日志、原始数值和结果数值是否能再次对齐。
案例 3. 重复业务自动化¶
假设运营团队想要一种自动化:读取上传文件,分类后保存到文件夹。如果请求句子足够具体,执行也容易感觉几乎解决了。但用提示可以把读取、分类、保存写成一句话,真实系统中却还需要文件访问权限、分类标准、保存位置、失败时重试等独立阶段。
在真实世界里,权限和工具连接比话语更重要。如果没有权限或保存路径错误,即使分类本身正确,任务也可能在最后保存阶段中断。也就是说,人可以用一句话说完,但执行世界需要接上多个工具和应用。这里的变化,是从看 请求句子是否具体 转向看 实际保存成功、失败处理、重试结构是否存在。所以这个场景中缺少的不是更长提示,而是执行结构本身。这个案例要确认的结果不是分类句子生成,而是实际保存成功、失败处理、重试路径是否存在,以及能否通过日志重新读出哪个阶段失败。
三个案例可以从结构限制角度重新整理如下。
| 情况 | 把提示写得更强也填不上的东西 | 实际上还要接上的结构 |
|---|---|---|
| 最新政策指引 | 最新信息访问 | RAG 或最新文档连接 |
| 数值计算报告 | 算术准确度保证 | 计算工具、后处理验算 |
| 重复业务自动化 | 文件访问、保存、重试 | tool use、权限处理、执行流程 |
同一内容按系统边界再看,可以这样读。
flowchart TD
A["更强的提示"]
B["响应可能看起来更好"]
C{"缺少的部分是\n系统保证吗?"}
A --> B --> C
C -->|需要最新出处| D["文档访问"]
C -->|需要数值正确性验证| E["计算验证"]
C -->|需要真实执行| F["执行 + 重试流程"]
核心是 更强的句子 和 更强的系统保证 是不同层。
也就是说,到这里的结论是:把提示写得更好 和 把答案依据实际绑定到文档 是不同的。P6-11 开始正是沿着这个差异,阅读 答案的出发点应该放在哪里,而不只是调整说话方式。
需要提示外结构的场景¶
真实失败场景最常卡住的原因,是 答案很奇怪 这一句话里混着多个原因。读完本节后,需要先养成一次性写下 缺少什么才导致这个失败 的习惯。
| 实际首先看到的问题 | 首先接上的问题 | 首先要修的东西 |
|---|---|---|
| 回答语气和格式经常摇摆 | 同样材料下回答方式是否摇摆? | 提示结构、示例、输出格式 |
| 今天标准下的政策答案总是不稳 | 系统实际读取当前文档了吗? | RAG、最新文档连接 |
| 不确定计算值是否正确 | 能重新确认计算过程吗? | 计算工具、验算日志 |
| 不知道保存·查询·发送是否实际完成 | 留下的是话语,还是执行记录? | tool use、function calling、执行日志 |
这个表的核心是,不把 把提示写得更强 和 给系统接上其他结构 看成同一种改善。格式摇摆可以在提示层减少,但最新文档缺失或执行记录缺失,不会因为输入句子更精细而确认。
抓住这个标准再进入 P6-11,就不会把 RAG 误解成 提示扩展版。这里必须先固定一种感觉:让模型说得更好 和 把回答出发点绑定到外部依据 是不同层。这样,P6-11 的搜索·依据结合也会读得不那么压缩。
练习和示例¶
这个练习的目标是直接判断 强提示 和 真实结构保证 是不同问题。真实服务中不能只读回答句子,还要一起看 最新文档是否接上、是否有计算日志、是否留下执行日志 等验证项目。
用户可以同时期待最新政策、准确计算、实际保存执行。提示中可以强烈写上 以最新文档为依据、准确计算、保存完成,但如果没有最新文档连接、计算工具、保存工具,答案仍然可能停留在只说不做的指令。
先把要比较的验证项目整理成表,如下。
| 任务 | 用户期待的东西 | 只靠提示经常缺失的东西 | 要接上的结构 |
|---|---|---|---|
| 政策指引 | 按最新文档标准回答 | 最新版本文档 ID | 文档搜索、最新版本连接 |
| 数值报告 | 计算值准确性 | 计算日志、重新计算依据 | 计算工具、后处理验算 |
| 文件自动化 | 实际保存完成 | 保存日志、重试信息 | 文件工具、执行日志 |
在下面三个场景中,首先要做的不是计算答案,而是标出哪个槽位空着,所以需要提示外结构。
| 场景 | 提示首先能减少的东西 | 需要系统结构的东西 | 要确认的记录 |
|---|---|---|---|
问 请告诉我今天标准下的退款期限 后,模型礼貌地回答 7 天 | 回答长度、语气、注意语句 | 当前有效的政策文档连接 | 文档 ID、文档版本、搜索时刻 |
问 请告诉我三个分店销售合计和平均 后,表格漂亮但合计错误 | 表格格式、说明顺序 | 计算工具和验算结构 | 原始行、计算日志、重新计算结果 |
问 请把合同保存到法务文件夹 后,模型回答已保存 | 报告句子格式 | 实际文件保存工具和权限处理 | 保存路径、保存日志、失败时重试记录 |
现在把同样场景改得稍微含糊一些,直接判定。空格中从 提示、RAG、工具使用、评估/日志 中写出首先要看的结构。
| 失败场景 | 首先要看的结构 | 理由 |
|---|---|---|
| 答案来自最新文档,但每次摘要格式不同 | ||
| 合计数字正确,但没有留下计算了哪些原始行的记录 | ||
| 文件保存成功,但失败时是否重试无法知道 | ||
| 答案自然、表格也正确,但政策文档版本标准是上个月 |
解说:
| 失败场景 | 首先要看的结构 | 理由 |
|---|---|---|
| 最新文档已接上,但摘要格式摇摆 | 提示 | 依据连接已经存在,所以首先要固定输出格式和示例 |
| 合计正确,但没有原始行记录 | 评估/日志 | 即使计算结果正确,没有可复现记录也难以运营验证 |
| 保存成功,但不知道是否会重试 | 工具使用 | 执行结构不仅包括成功,也包括失败处理和重试路径 |
| 表格和句子都好,但文档版本陈旧 | RAG | 问题不是语气或格式,而是答案出发点没有绑定到当前文档 |
这个练习中要确认的是,写强提示就够 和 必须接结构 不是同一判断。提示擅长改变回答形状,但最新文档版本、计算可复现性、保存成功、失败处理记录,必须有单独结构才能确认。
系统边界上留下的失败类型¶
这个练习会阻止一种误解:提示越强,所有问题都会解决。真实服务中,最新信息访问、计算验证、工具调用和执行日志等外部结构是单独需要的,所以提示只能读成系统整体中的一个层。
上面的判定表中重要的是,结构补强并不是一个万能装置。最新性转向依据连接,计算转向验算结构,保存转向执行工具和日志,重复失败检测转向评估记录。因此,提示限制不应读成 语气问题,而应读成 依据、计算、执行、评估结构中缺了什么。
移到提示之外的边界¶
提示擅长改变响应形状,但最新文档访问、计算验证、真实执行成功这样的系统保证,必须有单独结构才能确保。
更重要的是要抓住:用输入设计改变响应形状 和 保证最新性、依据、可执行性 不是同一个问题。因此,提示限制比起把提示写得更长,更适合读成判断什么时候需要 RAG、tool use、evaluation 等结构的边界。
- 最新性不足
- 依据不足
- 输出摇摆
- 无法执行
也就是说,从这里开始,只继续打磨提示已经不够,依据连接要转给 RAG,执行要转给 tool use 和 AI agent,验证和运营要转给 evaluation 和 harness。
这个边界重要的原因如下。
- 让前面的 P6-11.1 提示工程保持为
输入设计的第一个控制点,但不把它误解成万能解法。 - 帮助判断什么时候要增加结构。
- 自然连接到下一章 P6-12.1、P6-12.2 的 RAG,以及后面的 P6-14.1 工具使用、P6-15.1 agent。
检查清单¶
- 能把
更强的句子和更强的系统保证说明为不同问题吗? - 能说明最新性错误、计算错误、执行失败分别连接到哪种结构缺失吗?
- 准备好把下一章读成
改变答案依据出发点的结构,而不是提示扩展版吗?
出处和参考资料¶
- Tom B. Brown et al., Language Models are Few-Shot Learners, arXiv, 2020, 确认日期: 2026-07-19.
- OpenAI, Prompting | ChatGPT Learn, 确认日期: 2026-07-19.
- Patrick Lewis et al., Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks, NeurIPS, 2020, 确认日期: 2026-07-19.