RAG · 知识库 · 向量

本地知识库问答(RAG)入门

2026-09-12 · MacMP 本地 AI 教程(初稿)

把本地文档变成可提问的知识库:RAG 的原理、工具选型和最小可行实现。

什么是 RAG

RAG(检索增强生成)先根据问题检索相关文档片段,再交给大模型生成答案,让模型「会查资料」,回答更准确、可溯源。

Mac 上的工具

可以先用 Ollama 跑嵌入模型(如 nomic-embed-text)与对话模型,再配合本地向量库;也可用封装好的开源工具一键搭建。

最小可行方案

第一步准备 PDF/Markdown 文档;第二步切分并生成向量索引;第三步提问时检索 Top-K 片段并拼接提示词。整体数据不出本机。

推荐硬件

跑本地模型,内存是关键。M4 Mac mini 是当前性价比很高的选择(上链接前请替换为你的硬件联盟/返利链接)。

查看 Mac mini →