当前位置：首页 > news >正文

【RAG】内部外挂知识库搭建-本地GPT

news 2025/9/6 6:33:26

大半年的项目告一段落了，现在自己找找感兴趣的东西学习下，看看可不可以搞出个效果不错的local GPT，自研下大模型吧

RAG是什么？
检索增强生成(RAG)是指对大型语言模型输出进行优化，使其能够在生成响应之前引用训练数据来源之外的权威知识库。大型语言模型(LLM)用海量数据进行训练，使用数十亿个参数为回答问题、翻译语言和完成句子等任务生成原始输出。
https://github.com/chatchat-space/Langchain-Chatchat

搭建local GPT：https://github.com/PromtEngineer/localGPT
==》本地版的 GPT，可以下載 source code

学习视频：https://www.youtube.com/watch?v=MlyoObdIHyo

1、Clone code

git clone https://github.com/PromtEngineer/localGPT.git

2、安装 conda：https://www.anaconda.com/download-success
3、安装pip依赖：pip install -r requirements.txt
4、安装 LLAMA-CPP ：
LocalGPT 使用 LlamaCpp-Python 进行 GGML（需要 llama-cpp-python <=0.1.76）和 GGUF（llama-cpp-python >=0.1.83）模型。

苹果芯片用：

# Example: METAL
CMAKE_ARGS="-DLLAMA_METAL=on"  FORCE_CMAKE=1 pip install llama-cpp-python==0.1.83 --no-cache-dir

NVIDIA芯片用：

# Example: cuBLAS
CMAKE_ARGS="-DLLAMA_CUBLAS=on" FORCE_CMAKE=1 pip install llama-cpp-python==0.1.83 --no-cache-dir

docker官方文档：https://www.dockerdocs.cn/engine/index.html

基本概念
https://ithelp.ithome.com.tw/users/20120030/ironman/5515

效果
https://docs.google.com/presentation/d/1dkfd9cAwsHfM2jdKtn6RHixecoD6X1lF2Mby60YxmT4/edit#slide=id.g201e72434cd_0_245

参考学习：https://blog.csdn.net/u013010473/category_11657660.html?spm=1001.2014.3001.5482

将文件放入 SOURCE_DOCUMENTS 文件夹中。在 SOURCE_DOCUMENTS 文件夹中放置多个文件夹，代码将递归读取文件。

LocalGPT 目前支持以下文件格式。 LocalGPT 使用 LangChain 来加载这些文件格式。 Constants.py 中的代码使用 DOCUMENT_MAP 字典将文件格式映射到相应的加载器。为了添加对其他文件格式的支持，只需添加该字典以及该文件格式和来自 LangChain 的相应加载器即可。

DOCUMENT_MAP = {".txt": TextLoader,".md": TextLoader,".py": TextLoader,".pdf": PDFMinerLoader,".csv": CSVLoader,".xls": UnstructuredExcelLoader,".xlsx": UnstructuredExcelLoader,".docx": Docx2txtLoader,".doc": Docx2txtLoader,
}