本地部署常见问题与踩坑合集
模型下载慢、内存不足、中文乱码、端口冲突……常见问题一网打尽。
模型下载慢
模型托管在境外，国内下载可能很慢。可尝试更换镜像源、使用代理，或提前离线下载模型文件后手动导入。
内存不足 / 报 OOM
换更小的量化版本、缩短上下文长度、关闭其他占用内存的应用；若频繁触发说明需要更大内存机型。
中文输出乱码
检查模型是否支持中文、终端编码是否为 UTF-8，并优先选择 Qwen 等中文能力强的模型。
模型下载慢、内存不足、中文乱码、端口冲突……常见问题一网打尽。
模型托管在境外，国内下载可能很慢。可尝试更换镜像源、使用代理，或提前离线下载模型文件后手动导入。
换更小的量化版本、缩短上下文长度、关闭其他占用内存的应用；若频繁触发说明需要更大内存机型。
检查模型是否支持中文、终端编码是否为 UTF-8，并优先选择 Qwen 等中文能力强的模型。