本地知识库问答(RAG)入门
把本地文档变成可提问的知识库:RAG 的原理、工具选型和最小可行实现。
什么是 RAG
RAG(检索增强生成)先根据问题检索相关文档片段,再交给大模型生成答案,让模型「会查资料」,回答更准确、可溯源。
Mac 上的工具
可以先用 Ollama 跑嵌入模型(如 nomic-embed-text)与对话模型,再配合本地向量库;也可用封装好的开源工具一键搭建。
最小可行方案
第一步准备 PDF/Markdown 文档;第二步切分并生成向量索引;第三步提问时检索 Top-K 片段并拼接提示词。整体数据不出本机。