使用 DeepSeek R1 和 Ollama 开发 RAG 系统 - 文章 - 开发者社区

picture.image

向AI转型的程序员都关注公众号机器学习AI算法工程

1.概述

掌握如何借助 DeepSeek R1 与 Ollama 搭建检索增强生成（RAG）系统。本文将通过代码示例，为你提供详尽的分步指南、设置说明，分享打造智能 AI 应用的最佳实践。

2.内容

2.1 为什么选择DeepSeek R1？

在这篇文章中，我们将探究性能上可与 OpenAI 的 o1 相媲美、但成本却低 95% 的 DeepSeek R1，如何为你的检索增强生成（RAG）系统带来强大助力。我们来深入剖析为何开发者们纷纷热衷于这项技术，以及你怎样利用它构建自己的 RAG 流程。

DeepSeek R1 的 15 亿参数模型在这方面表现出色，原因如下：

精准检索：每个答案仅关联 3 个文档片段
严格提示：采用 “我不知道” 策略，避免模型产生幻觉
本地执行：与云 API 相比，实现零延迟

环境：

| 组件 | 成本 | | --- | --- | | DeepSeek R1 1.5B | 免费 | | Ollama | 免费 | | 16GB 内存的个人电脑 | 0 元 |

2.2 构建本地 RAG 系统所需的条件

1.Ollama

Ollama 允许你在本地运行诸如 DeepSeek R1 之类的模型。

下载：Ollama
设置：通过终端安装并运行以下命令。

ollama run deepseek-r1 # For the 7B model (default)

picture.image

2.DeepSeek R1 模型

DeepSeek R1 的参数范围从 1.5B 到 671B。对于轻量级 RAG 应用程序，请从1.5B 模型开始。

ollama run deepseek-r1:1.5b

提示：更大的模型（例如 70B）提供更好的推理能力，但需要更多的 RAM。

picture.image

2.3 构建 RAG 管道

1.导入库

我们将使用：

LangChain 用于文档处理和检索。
Streamlit 具有用户友好的网络界面。

  
import streamlit as st    
from langchain_community.document_loaders import PDFPlumberLoader    
from langchain_experimental.text_splitter import SemanticChunker    
from langchain_community.embeddings import HuggingFaceEmbeddings    
from langchain_community.vectorstores import FAISS    
from langchain_community.llms import Ollama

picture.image

2.上传并处理 PDF

利用 Streamlit 的文件上传器选择本地 PDF。用于PDFPlumberLoader高效提取文本，无需手动解析。

  
# Streamlit文件上传器  
uploaded_file = st.file_uploader("Upload a PDF file", type="pdf")  
  
if uploaded_file:  
    # 临时保存PDF文件  
    with open("temp.pdf", "wb") as f:  
        f.write(uploaded_file.getvalue())  
  
    # 加载PDF文本  
    loader = PDFPlumberLoader("temp.pdf")  
    docs = loader.load()

3.策略性地整理文件

我们打算使用递归字符文本分割器（RecursiveCharacterTextSplitter），该代码会将原始的 PDF 文本拆分成更小的片段（块）。下面我们来解释一下合理分块与不合理分块的概念：

picture.image

为什么要进行语义分块呢？
语义分块能够将相关的句子归为一组（例如，“Milvus 如何存储数据” 这样的内容会保持完整），还能避免拆分表格或图表。

利用 Streamlit 的文件上传器选择本地 PDF。用于PDFPlumberLoader高效提取文本，无需手动解析。

  
# 将文本拆分为语义块    
text_splitter = SemanticChunker(HuggingFaceEmbeddings())     
documents = text_splitter.split_documents(docs)

这一步通过让各文本片段稍有重叠来保留上下文信息，这有助于语言模型更准确地回答问题。小而明确的文档片段还能让搜索变得更高效、更具相关性。

4.创建可搜索的知识库

分割完成后，流程会为这些文本片段生成向量嵌入表示，并将它们存储在 FAISS 索引中。

  
# Generate embeddings    
embeddings = HuggingFaceEmbeddings()    
vector_store = FAISS.from_documents(documents, embeddings)    
  
# Connect retriever    
retriever = vector_store.as_retriever(search_kwargs={"k": 3})  # Fetch top 3 chunks

这一过程将文本转换为一种数值表示形式，从而使查询变得更加容易。后续的查询操作将针对该索引展开，以找出上下文最为相关的文本片段。

5.配置 DeepSeek R1

在这里，你要使用 Deepseek R1 1.5B 参数模型作为本地大语言模型（LLM）来实例化一个检索问答（RetrievalQA）链。

  
llm = Ollama(model="deepseek-r1:1.5b")  # Our 1.5B parameter model    
  
# Craft the prompt template    
prompt = """    
1. Use ONLY the context below.    
2. If unsure, say "I don’t know".    
3. Keep answers under 4 sentences.    
  
Context: {context}    
  
Question: {question}    
  
Answer:    
"""    
QA_CHAIN_PROMPT = PromptTemplate.from_template(prompt)

这个模板会迫使模型依据你 PDF 文档的内容来给出答案。通过将语言模型与和 FAISS 索引绑定的检索器相结合，任何通过该链发起的查询都会从 PDF 内容中查找相关上下文，从而让答案有原始材料作为依据。

6.组装RAG链

接下来，你可以将上传、分块和检索这几个步骤整合为一个连贯的流程。

  
# Chain 1: Generate answers    
llm_chain = LLMChain(llm=llm, prompt=QA_CHAIN_PROMPT)    
  
# Chain 2: Combine document chunks    
document_prompt = PromptTemplate(    
    template="Context:\ncontent:{page_content}\nsource:{source}",    
    input_variables=["page_content", "source"]    
)    
  
# Final RAG pipeline    
qa = RetrievalQA(    
    combine_documents_chain=StuffDocumentsChain(    
        llm_chain=llm_chain,    
        document_prompt=document_prompt    
    ),    
    retriever=retriever    
)

这就是检索增强生成（RAG）设计的核心所在，它为大语言模型提供经过验证的上下文信息，而非让其单纯依赖自身的内部训练数据。

7.启动 Web 接口

最后，代码利用了 Streamlit 的文本输入和输出函数，这样用户就可以直接输入问题并立即查看回答。

  
# Streamlit UI    
user_input = st.text_input("Ask your PDF a question:")    
  
if user_input:    
    with st.spinner("Thinking..."):    
        response = qa(user_input)["result"]    
        st.write(response)

一旦用户输入查询内容，检索链就会找出最匹配的文本片段，将其输入到语言模型中，并显示答案。只要正确安装了langchain库，代码现在应该就能正常运行，不会再触发模块缺失的错误。
提出并提交问题，即可立即获得答案！

8.完整示例代码

  
import streamlit as st  
from langchain_community.document_loaders import PDFPlumberLoader  
from langchain_experimental.text_splitter import SemanticChunker  
from langchain_community.embeddings import HuggingFaceEmbeddings  
from langchain_community.vectorstores import FAISS  
from langchain_community.llms import Ollama  
from langchain.prompts import PromptTemplate  
from langchain.chains.llm import LLMChain  
from langchain.chains.combine_documents.stuff import StuffDocumentsChain  
from langchain.chains import RetrievalQA  
  
# color palette  
primary_color = "#1E90FF"  
secondary_color = "#FF6347"  
background_color = "#F5F5F5"  
text_color = "#4561e9"  
  
# Custom CSS  
st.markdown(f"""  
    <style>  
    .stApp {{  
        background-color: {background_color};  
        color: {text_color};  
    }}  
    .stButton>button {{  
        background-color: {primary_color};  
        color: white;  
        border-radius: 5px;  
        border: none;  
        padding: 10px 20px;  
        font-size: 16px;  
    }}  
    .stTextInput>div>div>input {{  
        border: 2px solid {primary_color};  
        border-radius: 5px;  
        padding: 10px;  
        font-size: 16px;  
    }}  
    .stFileUploader>div>div>div>button {{  
        background-color: {secondary_color};  
        color: white;  
        border-radius: 5px;  
        border: none;  
        padding: 10px 20px;  
        font-size: 16px;  
    }}  
    </style>  
""", unsafe_allow_html=True)  
  
# Streamlit app title  
st.title("Build a RAG System with DeepSeek R1 & Ollama")  
  
# Load the PDF  
uploaded_file = st.file_uploader("Upload a PDF file", type="pdf")  
  
if uploaded_file is not None:  
    # Save the uploaded file to a temporary location  
    with open("temp.pdf", "wb") as f:  
        f.write(uploaded_file.getvalue())  
  
    # Load the PDF  
    loader = PDFPlumberLoader("temp.pdf")  
    docs = loader.load()  
  
    # Split into chunks  
    text_splitter = SemanticChunker(HuggingFaceEmbeddings())  
    documents = text_splitter.split_documents(docs)  
  
    # Instantiate the embedding model  
    embedder = HuggingFaceEmbeddings()  
  
    # Create the vector store and fill it with embeddings  
    vector = FAISS.from_documents(documents, embedder)  
    retriever = vector.as_retriever(search_type="similarity", search_kwargs={"k": 3})  
  
    # Define llm  
    llm = Ollama(model="deepseek-r1")  
  
    # Define the prompt  
    prompt = """  
    1. Use the following pieces of context to answer the question at the end.  
    2. If you don't know the answer, just say that "I don't know" but don't make up an answer on your own.\n  
    3. Keep the answer crisp and limited to 3,4 sentences.  
  
    Context: {context}  
  
    Question: {question}  
  
    Helpful Answer:"""  
  
    QA_CHAIN_PROMPT = PromptTemplate.from_template(prompt)  
  
    llm_chain = LLMChain(  
        llm=llm,  
        prompt=QA_CHAIN_PROMPT,  
        callbacks=None,  
        verbose=True)  
  
    document_prompt = PromptTemplate(  
        input_variables=["page_content", "source"],  
        template="Context:\ncontent:{page_content}\nsource:{source}",  
    )  
  
    combine_documents_chain = StuffDocumentsChain(  
        llm_chain=llm_chain,  
        document_variable_name="context",  
        document_prompt=document_prompt,  
        callbacks=None)  
  
    qa = RetrievalQA(  
        combine_documents_chain=combine_documents_chain,  
        verbose=True,  
        retriever=retriever,  
        return_source_documents=True)  
  
    # User input  
    user_input = st.text_input("Ask a question related to the PDF :")  
  
    # Process user input  
    if user_input:  
        with st.spinner("Processing..."):  
            response = qa(user_input)["result"]  
            st.write("Response:")  
            st.write(response)  
else:  
    st.write("Please upload a PDF file to proceed.")

3.总结

本文详细介绍了利用 DeepSeek R1 和 Ollama 构建检索增强生成（RAG）系统的方法。首先说明了 DeepSeek R1 1.5B 模型的优势，如精准检索、避免幻觉、零延迟等。接着阐述了搭建流程，包括用 Ollama 本地运行模型、上传 PDF 文件、使用递归字符文本分割器进行语义分块、生成向量嵌入并存储于 FAISS 索引、实例化检索问答链，最后整合各步骤形成连贯流程。通过 Streamlit 实现用户输入问题并即时获取答案，且确保安装langchain库可避免错误。

机器学习算法AI大数据技术

搜索公众号添加： datanlp

picture.image