盒子AI大模型 · GEO · 工作流

Skills

Skill 里的工具调用和权限边界该怎么写清楚

江南 · · 约 2355 字

Skill 一旦可以调用工具,就要把工具当成权限来写,而不是当成文风。读一份材料、改一份草稿、把页面公开,是三件不同的事。写“可以使用工具完成任务”等于没有边界:执行者不知道哪一次越界是你允许的。

Skill 的基本结构见什么是 AI Skills。哪些动作即使工具做得到也不该自动做完,见哪些步骤不该交给模型自动完成。

一行工具写三件事

每一个允许的工具占一段,固定三个句子。用它做什么:只读打开草稿中已有的链接。范围:这些 URL,不包括搜索结果里新出现的地址。用完的标志:把每个链接是否打开、最终跳到哪里记下来,不把网页上的新数字写进正文。

再授予第二个工具时重新写这三句。例如允许在草稿文件里修改文字:范围是这一份草稿,不是同目录下的其他文章;用完的标志是改动处都能对应到核对表,且页面仍为未公开状态。不要因为“都是文件操作”就把读和写并成一行。

没有出现在这份列表里的工具,写成明确的禁止,而不是省略。省略会被理解成没想到,执行时仍可能被用上。禁止的典型项是:发送邮件、删除文件、修改价格、公开或部署、访问密钥和配置。

读、改、发布不要绑在一起

只读就能完成的核对,不要授予写。写草稿就能完成的修订,不要授予发布。发布是另一个 Skill 或另一次人的确认,输入是已经打勾的草稿,而不是模型认为可以发了。

把三者绑在一份 Skill 里,失败时无法停在中间。链接是坏的,它仍可能继续改写并公开。拆开之后,核对 Skill 的完成标准是一张打勾的表;修订 Skill 的完成标准是草稿中的句子都能指回这张表;发布不在这两个完成标准里。

产品若支持只读目录、禁止网络或必须人工确认的动作,按上面的拆分去配置,使做不到的事情在系统里就做不到。提示词里的“请不要发布”只在模型服从文字时有效。权限使动作无法发生,才是边界。产品若没有这种设置,人就亲自做发布和删除,并在 Skill 的完成标准里写:“这些动作由人执行;模型宣布已经完成,不算完成。”

工具的输出仍然是文本

网页、检索摘要、文件列表返回的都是一段可能有错的文字。Skill 要写明它的地位:可以用来填写“链接是否打开”这种观察,不可以当作新的事实来源,除非人把那句话补进材料并注明位置。

优先级用一句话写死。例如:人提供的材料高于工具返回;两者矛盾时,把矛盾记入待查,不写入对外正文。没有这句话,模型会倾向于生成一个两边都照顾到的折中结论,折中往往是第三种材料里不存在的说法。

范围也要防扩大。允许打开“草稿中列出的 URL”,不包含页面上的相关推荐、广告和评论里的链接。否则一次核对会变成一次没有边界的浏览,新的未经记录的句子会进入草稿。

改 Skill 时同时看权限

增加一个工具,就是增加一种能造成的后果,要递增版本,并写明为什么原来的步骤不够。不要在某次聊天里临时允许“这次可以发”,然后忘记从下一版里撤掉。临时允许只存在于那一次的人的操作里,不写进文件。

验收时让另一个人阅读工具列表,请他指出:这份 Skill 能否在无人确认的情况下改动公开页面。若他不能确定,列表就还不够清楚。不清楚的列表不是中性的,它会在赶时间的那一次被理解成允许。怎样把任务收成一份可检查的文件,见怎样把一个重复任务写成可复用的 Skill。

把一次“顺手发布”改成三行权限

某次核对里,模型打开了草稿中的链接,发现一处过时句子,直接改了文件并公开了页面。这不是核对做得仔细,是三件权限被绑在了一起。拆开后的写法是:允许读取列出的 URL,并把是否打开记入表;允许修改这一份仍为草稿的文件,改动必须对应表中的某一行;不允许改变公开状态。公开由人在看过差异后执行。

若产品做不到第三行的技术禁止,人的步骤就写进完成标准:“页面仍为未公开。模型若表示已经公开,视为未完成并立即由人检查真实状态。”同时撤回那次会话里多出来的发布能力,不要只在文字上说下次不要。下次会在同样的权限下重复。

工具返回的过时句子本身也不自动写进正文。它进入待查,人打开该 URL 确认后才成为材料。这样一次“顺手”被拆成观察、改草稿、人确认三截,每一截都有范围。

工具每次被用到,都在核对表上留一行:工具名、碰过的地址或文件、有没有写操作。没有这行,事后无法区分“模型说它看过”和“它确实打开了那个 URL”。说看过但表上没有记录的,当作没看过,相关句子退回。记录由能看到工具真实结果的人抄写,不由模型自己申报“已核对三个链接”。

范围用目录或 URL 列表写死,不用“相关文件”这种说法。相关会在执行时扩大到同目录的配置和密钥。若必须读一个目录,写出目录路径,并写明排除配置文件和密钥文件。排除写不出来,就不要授予这个目录,改为逐个列出允许的文件。

写操作要规定失败时的样子。写入中断、只改了一半文件,不算完成,也不能当作可以公开的新版本。Skill 写明:写入后由人打开文件,确认改动与核对表的行一致;不一致就恢复到写入前的副本。因此写入前先留副本。没有副本的写权限,等于没有退路。退路不是模型再生成一版,而是回到人确认过的上一份。

读权限同样要有失败时的记录。打不开的 URL 记为打不开,不记为“无异常”。无异常会被理解成内容没有问题。打不开可能是页面已删、需要登录,或地址写错。三种情况都不等于正文可以保留原来的说法。Skill 要求把打不开的地址列进缺口,并停止使用该地址支持任何句子,直到人换了一个打得开且核对过的位置。

标签:工具 · 权限 · Skills

常见问题

产品没有权限设置,只有一个什么都能做的会话,怎么办?

在 Skill 里仍然写清禁止的动作,并由人执行那些动作。不要让模型代发、代删、代改价。没有技术限制时,人的步骤就是边界,必须写在完成标准里:这些动作未经过人,就不算完成。

可否写“必要时可浏览网页核对”?

不要用“必要时”。写明允许打开的范围,例如只打开草稿里已经列出的 URL,不搜索新的来源,不采用页面上多出来的数字,除非人把该数字补进材料。

工具返回了和材料矛盾的句子,听哪一个?

听你在 Skill 里指定的优先级。通常是人提供的材料优先,工具返回只作为待查项。没有写优先级时,模型会把两段都写进结论里,矛盾被抹平。