分类组件
对用户输入进行分类并相应应用策略的组件。
分类组件通常是交互组件的下游。
使用场景
分类组件在您需要 LLM 帮助识别用户意图并应用适当的处理策略时是必不可少的。
配置
查询变量
必需
选择分类的源。
分类组件依赖查询变量来指定其数据输入(查询)。在分类组件之前定义的所有全局变量在下拉列表中可用。
输入
分类组件依赖输入变量来指定其数据输入(查询)。在输入部分点击**+ 添加变量以添加所需的输入变量。有两种类型的输入变量:引用和文本**。
- 引用:使用组件的输出或用户输入作为数据源。您需要从下拉菜单中选择:
- 组件输出下的组件 ID,或
- 开始输入下的全局变量,该变量在开始组件中定义。
- 文本:使用固定文本作为查询。您需要输入静态文本。
模型
点击模型的下拉菜单以显示模型配置窗口。
- 模型:要使用的聊天模型。
- 确保您在模型提供商页面上正确设置了聊天模型。
- 您可以为不同组件使用不同模型以提高灵活性或改善整体性能。
- 自由度:温度、Top P、存在惩罚和频率惩罚设置的快捷方式,表示模型的自由度级别。从即兴、精确到平衡,每个预设配置对应温度、Top P、存在惩罚和频率惩罚的唯一组合。
此参数有三个选项:- 即兴:产生更具创意的响应。
- 精确:(默认)产生更保守的响应。
- 平衡:即兴和精确之间的中间地带。
- 温度:模型输出的随机性级别。
默认为 0.1。- 较低的值导致更确定性和可预测的输出。
- 较高的值导致更具创意和多样化的输出。
- 温度为零时,相同提示会产生相同输出。
- Top P:核采样。
- 通过设置阈值 P 并将采样限制为累积概率超过 P 的令牌,减少生成重复或不自然文本的可能性。
- 默认为 0.3。
- 存在惩罚:鼓励模型在响应中包含更多样化的令牌范围。
- 较高的存在惩罚值使模型更可能生成尚未包含在生成文本中的令牌。
- 默认为 0.4。
- 频率惩罚:阻止模型在生成的文本中过于频繁地重复相同的单词或短语。
- 较高的频率惩罚值使模型在使用重复令牌时更加保守。
- 默认为 0.7。
注意
- 不必为所有组件坚持使用同一模型。如果特定模型在特定任务上表现不佳,请考虑使用不同的模型。
- 如果您不确定温度、Top P、存在惩罚和频率惩罚背后的机制,只需选择预设配置的三个选项之一。
消息窗口大小
指定要输入到 LLM 的先前对话轮数的整数。例如,如果设置为 12,则最后 12 轮对话的令牌将馈送给 LLM。此功能消耗额外的令牌。
默认为 1。
重要
此功能仅用于多轮对话。如果您的分类组件不是多轮对话的一部分(即,它不在循环中),请保持此字段不变。
类别名称
分类组件必须至少有两个类别。此字段设置类别的名称。点击**+ 添加项目**以包含预期的类别。
注意
您会注意到类别名称是自动填充的。不用担心。每个类别在创建时都会被分配一个随机名称。请随意将其更改为 LLM 可以理解的名称。
描述
此类别的描述。
您可以输入可能帮助 LLM 确定哪些输入属于此类别的标准、情况或信息。
示例
可能帮助 LLM 确定哪些输入属于此类别的附加示例。
重要
如果您希望 LLM 将特定案例分类到此类别中,示例比描述更有帮助。
添加新类别后,导航到画布上的分类组件,找到案例旁边的**+**按钮,点击它以指定下游组件。
输出
组件输出的全局变量名,可由工作流中的其他组件引用。默认为 category_name。