Local AI 中文文档 下载 App

上下文轮数——决定模型"记得"多久以前的事

上下文轮数是什么

LLM 在生成回复时,会把之前几轮的对话历史一起作为输入——这些历史就是"上下文"。上下文轮数指的是保留多少组对话(用户消息 + 模型回复算一轮)。

上下文轮数决定了模型能"记得"多久以前的对话内容。调得少,模型会经常"失忆";调得多,每次推理时需要处理的历史更多,速度会变慢、内存占用也会增加。

设置位置

对话页 → 设置图标 → 「上下文数量」滑块,范围从 1 到模型支持的最大值(通常和 GGUF 的上下文窗口一致,见 GGUF 上下文长度设置)。

各档推荐

轮数适合场景
4~8简单单轮问答,每次都是新问题
12(默认)日常多轮对话,兼顾速度与连贯性
20~30讨论同一个话题、需要引用前文内容
接近最大值写长文档、逐段润色、复杂任务分解

和 GGUF 上下文窗口的关系

这两个容易混淆:

规则是:上下文轮数 × 每轮平均 token 数 ≤ 上下文长度上限。如果对话历史超过了 GGUF 的上下文窗口,模型会截断最早的部分——这和上下文轮数无关,是硬性限制。

调优建议