人机分工:哪些步骤不该交给模型自动完成
江南 · · 约 2335 字
不该交给模型自动完成的,是那些一旦做出就对外生效、或会选定一个尚无依据的事实的步骤。难度不是标准。生成一张核对表可能比改一个价格更费事,但改价不该自动,核对表可以自动。划分的依据是收回的成本和责任落在谁身上。
步骤怎样前后衔接,见把大模型放进工作流。工具权限怎样避免把这些步骤藏进一次调用,见工具调用和权限边界。
对外生效的动作停在人之前
下列动作默认由人执行最后一下。模型可以准备内容,不可以自己完成:
- 把页面从草稿改为公开,或把已公开的页面替换成新版本。
- 向客户、名单或任何具体的人发送邮件和消息。
- 修改价格、库存、权限、合同条款或会触发付款的配置。
- 删除生产环境中的页面、数据和账号。删除不可恢复时更不能自动。
这些动作的前一步可以是模型生成的差异说明:旧句、新句、涉及的人、是否包含数字变化。人看着差异完成动作。没有差异、只有“已为您优化”,人无法知道自己在确认什么,这个确认就应视为无效设计,而不是人的疏忽。
内部草稿的自动保存、格式统一、缺项列表,不在此列。它们不使外人看到一个新的定论。若团队习惯把草稿直接转发出去,转发就按发送处理,不要因为文件名里有“草稿”两个字就自动发出。
选定事实也是不该自动的步骤
另一类没有明显按钮、但同样不该自动完成:从互相矛盾或并不充分的材料里选定“正文采用哪一句”。模型会倾向于写出一个完整、单一的结论。选定本身是判断,判断错了,后面的通顺文字都会站在错误的一边。
人的步骤是在来源笔记上勾选。勾过的行才能进入草稿;没勾的行即使模型认为更完整,也不进入。两行矛盾且人都没有决定时,正文写明两边,或先不写这一段。不要设置一个“请给出最佳结论”的自动步骤来跨过没有勾选的状态。
同样停住人的还有:这篇文章该不该写、标题里的问题是不是你们能负责回答的、一个来源是否可信到可以进入笔记。模型可以列出待选问题和它看到的缺口。把某个问题推进到撰写,是编辑的决定。
可以自动的部分要窄
可以自动的是变换和标出,不是承诺。例如:按笔记生成带编号的草稿、标出没有编号的句子、检查站内链接是否指向已有文章、把修改处排成旧新对照。这些输出进入人的队列。队列的完成定义是人处理完,不是模型生成完。
批量标点、统一全角半角这一类替换,只有在规则明确排除数字、否定词和 URL 时才自动写入。做不到这种排除,就自动生成修订建议,不自动保存覆盖。建议列表很长时,人至少抽查会碰句子结构的那一部分,而不是只看模型的总结说“改动均为标点”。
确认要留下版本
人点下公开或发送时,记录里应能回答:哪一版草稿,哪一张笔记,谁确认的。没有这三项,出了问题只能在聊天记录里翻。聊天记录混有未被采用的试错,不是确认记录。
把确认放进发布复核的固定一行,避免每个栏目自己发明一种“口头说可以”。复核单的其余项目,见从草稿到发布。自动步骤若越过了这一行,先收回权限,再谈如何把草稿写得更快。更快不是把确认从流程里拿掉的理由。
一次改价为什么不能和改草稿放在同一步
草稿里的句子从“每月 30”改成“每月 28”,若工具同时能改付款配置,模型可能两处一起改,并认为这是同一次“保持一致”。文字草稿改错了还可以不公开。付款配置改错了,已经有人可能按新价格下单。所以文字可以进入待确认的差异列表,价格配置的写入不在这个列表的自动动作里。
人看到的差异应包括:旧价格、新价格、笔记编号、是否只改文章不改配置。确认文章时,配置保持原样,除非另有一次明确的人的操作。不要设置“文章与配置同步更新”的自动项。同步把两个责任合成了一个按钮,出了问题说不清是谁同意改的价。
同一原则用于删除。模型可以列出“这些草稿地址 90 天没有被引用”的清单。删除按钮在人看过清单之后。清单本身可能把仍需保留的地址算进来,因为“没有被引用”不等于“可以删除”。
定时公开也是发布。把“明天早上自动发布这篇”设进没有人值守的任务,等于把确认挪到了没人看差异的时刻。若确需定时,人应在设定时已经完成清单,并且定时任务发布的是那一版已勾过的文件,而不是到点再生成一版。到点再生成,限定词可能消失,而没有人在场退回。
模型可以在确认前一小时把差异再发到人的列表里。列表无人处理,定时任务就不应发布。失败的默认动作是保持草稿,不是照常公开。默认动作写反了,整份分工都会在人缺席的那一次失效。
选定标题也常被误放进自动步骤。三个标题草稿可以由模型给出,采用哪一个由人定,因为标题会和第一段一起被单独引用。模型选出“最好的一个”时,标准通常是更顺或更满,不是更不越界。人的选择要对照定义句,看有没有多出来的承诺。没有这一眼,后面的正文会围绕一个越界的标题展开,复核时才发现题目本身就不能用。
把这些不自动的步骤写成一张给配置的人看的表:动作、谁按最后一下、默认失败时保持什么状态。默认失败是草稿、原价、未删除,而不是“沿用模型的建议”。表上没有的动作,不加入自动任务。新同事不需要从一次事故里学习哪些按钮不能接给模型。表比事故便宜。表过期时,以实际接上的自动任务为准去改表,而不是以表为准假装那些任务不存在。
常见问题
如果人只是每次都点同意,这个步骤还有意义吗?
意义取决于点下去之前能否看见差异:改了哪一句、依据是哪一条笔记、发送给谁。若按钮旁边没有这些信息,人的确认只是在加快流程,应把信息补上,而不是把按钮交给模型。
内部草稿的自动保存算不算不该自动化的发布?
不算。保存草稿、生成对照表、标出缺编号的句子,都可以自动。跨过“他人会把它当成已定说法”的那一步,才需要人。内部若已经有人会直接转发草稿,就把转发也视为发送。
低风险的批量改写,例如统一标点,可以自动吗?
可以,只要改写规则不改变数字、否定词和链接,并且事后能列出被改动的位置。规则若可能碰掉“不”字或小数点,就改为列出建议,由人确认再写入。