多模型共存与对话中快速切换
装多个模型
Local AI 支持同时装多个 GGUF 模型——模型管理页里会列出全部已安装的模型条目,每个条目有独立的「使用模型」「设置」「删除」操作。
建议装法:
- 主力模型(每天用):一个质量和速度的平衡点,比如 Qwen2.5-3B-Q4_K_M
- 轻量模型(省电快速问答):1.5B 或 2B 的小模型,响应更快
- 特殊模型(特定场景):带视觉能力的 VL 模型、代码能力强的模型等
对话中切换
在对话页顶部有模型名称下拉菜单:
- 点击当前模型名
- 弹出已安装模型列表
- 点选另一个模型
- 应用自动释放前一个模型的内存,加载新模型
- 加载完成后继续对话
切换时当前会话的上下文会清空——不同模型对上下文的理解方式不同,Local AI 不会跨模型继承会话历史,避免混乱。
切换时的内存释放
切换模型的瞬间,前一个 GGUF 会从 RAM 中释放,新模型开始加载。这个过程在中低端机上可能需要几秒到十几秒,旗舰机通常瞬间完成。
加载速度主要取决于:
- 手机存储的读取速度(UFS 3.0+ 比 eMMC 快很多)
- 模型文件大小
- CPU 核心数
删除模型释放空间
每个模型文件占 1~5 GB 不等,装多了存储会紧张。删除步骤:
- 进模型管理
- 找到要删的模型条目
- 点垃圾桶图标
- 确认删除
删除只会移除模型文件,不会影响其他模型或应用本身。聊天记录也不会被删(它和模型文件独立存储)。
实用策略
- 内存够的话(12 GB+),主力模型和轻量模型可以同时装,日常快速问答切轻量、需要质量时切主力
- 6~8 GB 内存的手机,建议同一时间只装 1~2 个模型——装多了切换时反而增加内存压力
- 换模型后发现质量突然下降,先检查对话参数(上下文、停止词)是不是跟着变了