Milvus集成知识库（Milvus）

启用记忆体 Ctrl+M

开启后将检索记忆体中的内容,如果没有历史记忆查询需求,请不要轻易使用此功能

纯净模式 Ctrl+P

开启后只保留对话窗口,沉浸式对话体验

模型分组 Ctrl+G

开启后模型列表按照组别显示

历史记录智能压缩 Ctrl+J

开启后会对过长的历史记录进行压缩,节约成本,丢失一小部分回复质量

文件阅读模式 Ctrl+R

开启后当存在文件时,将使用多轮对话仔细阅读文件,token消耗非常大,非必要不建议使用

模型自动切换 Ctrl+N

开启后,将根据上下文的模型进行自动切换

快捷系统提示词

快捷键 Ctrl+K

开启后提问框连续输入5个m 'mmmmm'将提示词转英语,提问框连续输入5个f 'fffff' 使用LLM优化提示词,同时设置中的快捷键也会生效,反之失效

流式输出 Ctrl+S

关闭后将一次性输出所有回复

前置推理 Ctrl+T

为非推理模型提供一个前置模型进行推理,注意:推理模型会产生额外的token消耗

参数调节 Ctrl+B

Temperature

1.00

调整生成文本的随机性,更高的值代表更大的随机性

Frequency Penalty

0.00

减少重复词汇的出现频率,提升对话多样性

Presence Penalty

0.00

降低之前已提及的话题的出现频率,增加对话的广度

Max Tokens

调整生成文本的最大字符量,增加或减少根据需要的内容长度。（注意：大多数模型限制最大字符数为4095，超出此限制可能会导致模型崩溃不回复）