AI 产品与应用

“要不要用 AI”这个问题太宽。更容易讨论的是：一个人原本要完成什么，哪些环节可以交给系统，做到什么程度才算完成。我想先从这些问题理解 AI 产品，而不是从模型名称或一份能力清单开始。

一个模型能够写出文字，并不自动说明产品替人完成了工作。产品还要处理输入是否足够、输出是否可用、结果交给谁，以及出错后怎样继续。这份笔记先从任务完成和交付边界记录观察：结果是否满足要求、执行是否获授权、执行后是否真正完成，是三个不同的问题。

把任务写成可以检查的结果

假设案例：一个团队希望把会议记录整理成待办清单。输入是一份会议文字记录，期望结果是每项行动的内容、负责人、约定时间和对应原文；没有说清的地方需要标记，不能替参会者作决定。

如果只把任务写成“整理一下这次会议”，生成一份流畅的摘要就可能看起来完成了。但实际需要的是待办：谁做什么，信息来自哪里，还缺什么。任务定义不同，合格的结果就不同。摘要可以作为中间材料，却不能仅因为它写得完整，就被当成已经整理好的行动清单。

例如，在这段假设会议里，小林说：“我周五前发第一版。”这可以记录为小林的行动承诺，期限仍保留“周五”，不在会议日期未知时擅自换算成具体日期。另一句“数据齐了的话，下周可以试跑一下，谁来跟还没定”，只能先记录为带前提的建议：负责人待定，也不能直接生成一项确定分派的任务。

流畅程度可以帮助阅读，不能代替这些检查。Anthropic 在关于智能体评估的说明中，也区分了执行过程与最终结果：做了哪些步骤，不等于环境中的目标已经达成。这里借用这个区分，把验收落到可核对的待办，而不是看回答有没有一个像样的结尾。来源：Anthropic 的评估说明。

评估材料也要与任务对应。可以准备几份明确标注的样例，分别包含清楚的承诺、没有负责人、临时改口和相互矛盾的表述，检查系统怎样处理。用这些样例检查失败时保留了什么，哪些问题仍需要人来处理。没有真实、足够的评估过程，就不应宣称产品可靠到某个比例。

在这个假设场景里，我会先让系统生成带原文依据的待办草稿。整理和修改私人草稿，可以在用户请求的范围内自动完成；把任务分派给其他人，则需要核对负责人、期限、条件和本次执行授权。没有说清的条目单独待确认，不连带阻塞其他已经确认的条目。

关键不是让每个步骤都多一次点击，而是避免系统替人作出尚未授权的决定。已经明确授权、信息充分的动作，不必反复确认；存在歧义或超出授权范围时，再把决定交回给用户。写入工具后，还需要核对是否真的创建了预期任务，失败则保留草稿并说明原因。

微软的人机交互指南建议说明系统能力与可能出错的程度，并在不确定用户目标时进行澄清或适当缩小服务范围。应用到这个会议示例，我会让系统保留相关原文、标出待确认字段，而不是为了凑齐一张清单补出没有依据的信息。来源：微软人机交互指南。

失败回退也要保留已经有用的部分。输入无法读取时说明缺少哪份材料；某项待办有歧义时只暂停那一项；用户纠正负责人时留下纠正后的版本。反馈应该说明哪里不对，能回到相应输入或判断，而不只是让用户再次按“重新生成”。

还有几件事需要放进后续观察：人工检查的负担会不会抵消生成节省的工作；人是否容易漏看标记为不确定的内容；系统能否把一次纠正带到后续相似任务中。不同任务的后果也不同，整理候选文本与自动执行操作不能共用一条确认规则。这份笔记会从具体任务的例子继续补充，暂时不把其中一个流程推广成所有 AI 产品的答案。