从手机存储导入本地 GGUF 文件
什么时候需要本地导入
魔搭社区的模型很全,但偶尔你可能需要社区没有的版本:
- 自己用 llama.cpp 的 convert 工具转好的 GGUF
- Hugging Face 上的社区量化版本
- 别人分享的特定架构 GGUF 文件
这些情况都可以用本地导入解决。
操作步骤
- 先把 .gguf 文件传到手机存储(文件管理器、数据线、云盘下载都行)
- 打开 Local AI → 模型管理
- 点 + 按钮 → 选择「从本地导入」
- 文件浏览器里找到你的 .gguf 文件,点选
- 等应用解析模型(读文件头,确认架构和大小)
- 填写一个便于识别的名称(可选),完成
导入后的校验
导入完成后模型条目中应该显示:
- 参数量:模型识别出的大小(比如 3B、7B)
- 架构:llama、qwen2、gemma2 等
- 状态:就绪
如果模型一直停在「加载中」或直接报错,检查文件:
- 文件是否完整下载/传输(对比大小)
- 是否真的是 GGUF 格式(不是其他量化格式)
- 文件头是否损坏(可以用 llama.cpp 的
llama-quantize或llama-cli读一下确认)
常见问题
导入后提示「不支持的模型架构」
Local AI 底层用 llama.cpp,理论上所有 llama.cpp 支持的 GGUF 架构都能跑。但有些特别新的架构可能应用版本还没跟上,这时升级应用到最新版通常能解决。
文件太大选不中
安卓文件浏览器对大文件的处理有时会卡顿。建议把 .gguf 文件放在手机内部存储(不是 SD 卡),路径简单点(比如 Download/models/)。
导入的模型和社区下载的有什么区别
功能上完全一致——只要都是 GGUF 格式,运行时没有任何差别。社区下载的优势是自动带了名称和量化档位标签;本地导入的需要你自己填名称。