盒子AI大模型 · GEO · 工作流

标签:大模型

与「大模型」有关的说明文。

大模型 ·

模型幻觉通常从哪来,发布前怎么核实

幻觉是模型写出了通顺但不成立的内容。它常来自高概率的常见说法、材料里根本没有的细节、含糊的问题和被当成事实的工具返回。发布前要逐项回对来源,而不是再让模型给自己配引用。

大模型 ·

温度和 Top-p 什么时候该动,什么时候不该动

温度改变概率分布的平滑程度,Top-p 丢掉分布尾部后再抽样。两者都不补充事实。提取、分类和要稳定复现的格式应保持低温度;只有在你准备从多份草稿里挑选时,才值得提高温度。

大模型 ·

大模型如何生成一段回答

大模型不是从题库里取出现成答案,而是按当前上下文逐个估计下一个词元的概率,再把文本续写下去。明白这一点,才能设定期望、控制随机性,并识别幻觉。

大模型 ·

系统提示词和用户提示词该如何分工

系统提示词放稳定的角色、禁区和完成标准,用户提示词放这一次的问题和材料。不要把当天的文档写进系统提示,也不要假定上周的系统约定在这次请求里仍然看得见。

大模型 ·

多模态模型能看懂什么,不能当成什么

多模态模型接收的是图像或页面的一种编码,不是可靠的测量仪器。它可以协助阅读清晰的文字和描述看得见的结构,但不能代替你核对小字、图表中的数字和需要担责的识别结论。