加速本地推理：MLX 与量化模型
MLX 是 Apple 官方的机器学习框架，配合量化模型能让 Mac 跑得更快。
MLX 是什么
MLX 是 Apple 推出的、为 Apple Silicon 优化的机器学习框架，能更充分利用统一内存，很多开源模型已提供 MLX 版本。
量化为什么快
量化把模型权重从 16bit 压到 4bit/8bit，体积和内存占用大幅下降，在 Mac 上往往能换来更快的生成速度，代价是轻微质量损失。
实操建议
优先下载官方 MLX 量化版本；内存吃紧时选 4bit，追求质量选 8bit；多对比 Q4/Q8 的速度与效果再定。