Skip to content

搭建 RAG:让回答找到可靠依据 ​

翻阅本章手绘知识卡

第 05 章 · 知识检索 · 需要理解模型输入与输出

用户问“X90-Pro-Max 能保修多久”,知识库里却有几个相似型号。光找到一段看起来相近的文字还不够:你需要核对型号、政策版本和适用条件,再组织回答。

一句话理解 RAG

先检索资料,再根据资料回答。 检索到内容不等于找对依据;找对依据也不保证生成一定正确。

环节在解决什么问题要检查什么
分块把长文档变成可检索的片段条件和结论有没有被切开
召回找出可能相关的资料型号、语义和权限是否匹配
重排把更相关的片段排在前面关键依据有没有进入上下文
生成根据依据组织答案引用是否支持结论,缺依据是否拒答

一、 看懂检索增强生成 ​

1.1 生活化通俗比喻 ​

如果说大语言模型自身的预训练知识库是**“凭脑子闭卷考试”**:

  • 哪怕是学霸,面对“2026年9月某公司最新出台的退换货内部补充细则第3条”,由于训练数据没有覆盖或者时间落后,他只能“靠脑补编造”;
  • 这种在严肃事实上的胡编乱造,就是臭名昭著的大模型幻觉(Hallucination)。

而 RAG(检索增强生成,Retrieval-Augmented Generation) 则是**“开卷考试”**:

  • 并不要求大模型把所有企业制度都死记硬背在权重参数里;
  • 当用户提问时,系统先去企业的文档库里精准翻找对应的段落切片(Chunk);
  • 把翻找出来的真实原文与用户的提问拼在一起:“请严格根据以下查到的官方政策回答用户问题,未提及的内容禁止捏造”;
  • 大模型根据提供的依据组织答案。仍需检查引用是否支持结论,并为资料缺失、政策过期和相互冲突设计处理分支。

二、 为什么要组合不同检索方式 ​

2.1 纯向量检索(Dense Retrieval)的致命死穴 ​

很多开发者在 Demo 阶段只使用简单的向量检索(余弦距离计算),上线后发现恶性 Bug 频出:

  1. 对产品型号和专业术语“失明”:
    • 用户提问:“请问 X90-Pro-Max 型号的主板保修多久?”
    • 向量模型往往把 X90-Pro、X90、X80-Pro 的段落全部召回,因为它们在语义向量空间中的余弦距离极为接近,但实际保修政策完全不同!
  2. 缺乏严格上下文交叉比对:
    • 向量模型只计算 Query 与 Document 各自向量的夹角,没有让 Query 和 Document 的每一个 Token 在多头注意力机制中进行深度的交叉打分。

2.2 工业级三级流水线的核心突破 ​

  • BM25 稀疏检索:负责“抓精准”。哪怕这个生僻型号只出现了一次,BM25 也能依靠词频精准命中;
  • 密集向量检索:负责“抓泛化”。用户说“退换”,文档写“售后”,向量模型能够轻松建立语义连接;
  • BGE-Reranker 重排序:作为终审裁判,利用 Cross-Encoder 架构对前两路召回的前 50 个候选切片进行细致打分,剔除无关噪点,只留 Top 3~5 精华切片。

三、 分块与检索参数怎么选 ​

3.1 工业级文档分块 (Chunking) 四大策略对比 ​

3.2 生产级配置参数基准表 ​

以下数值只是实验起点,不是所有知识库通用的标准。用同一组问题比较召回质量、回答正确性和延迟,再决定配置。

环节配置生产推荐指标技术原理与选型依据避坑提醒
切分大小 (Chunk Size)500 ~ 800 Tokens保证单个切片包含完整的因果逻辑与政策前提切忌切得太碎(如 100 字),否则上下文严重断裂
重叠区 (Chunk Overlap)10% ~ 15% (约 50~100 Tokens)防止关键规则恰好被腰斩切在两个切片边界重叠太大会造成冗余 Token 与索引膨胀
Embedding 模型选择覆盖目标语言的向量模型向量维度必须与索引配置一致,按实际模型输出核对换模型后检查是否需要重建索引
重排序 (Reranker)选择能处理目标语言和文档长度的模型对比加入重排前后的 Top-k 相关性与总延迟只对候选集重排,并在验证集上校准阈值

四、 实操:观察混合检索流水线 ​

创建 src/05_hybrid_rag_pipeline.py:

示例边界

下面的脚本包含模拟向量检索和重排逻辑,用来观察流水线的数据流。接入真实 Embedding、索引与 Reranker,并完成自己的评测后,才能判断检索效果。

python
"""
文件名:src/05_hybrid_rag_pipeline.py
说明:工业级混合检索 (BM25 + 向量) 与重排序 (Reranker) 生产级流水线
运行方式:uv run python src/05_hybrid_rag_pipeline.py
"""

from typing import List, Dict, Any
import math

# ----------------- 1. 模拟企业私有文档切片库 -----------------
KNOWLEDGE_CHUNKS = [
    {
        "id": "chunk_01",
        "title": "7天无理由退货细则",
        "content": "自商品签收之日起7天内,在保证商品完好、未经穿着水洗且配件吊牌齐全的前提下,支持无理由退货。赠品须一并退回。"
    },
    {
        "id": "chunk_02",
        "title": "保修期与延保政策",
        "content": "全系列数码相机主体享受1年全国联保。若购买尊享延保服务,可在官方联保期满后自动延长24个月免费硬件维修服务。"
    },
    {
        "id": "chunk_03",
        "title": "型号 X90-Pro-Max 专用售后条款",
        "content": "旗舰型号 X90-Pro-Max 享受专属 VIP 尊享服务:主板核心部件提供 36 个月超长质保,且提供 1 次免费上门换新服务。"
    },
    {
        "id": "chunk_04",
        "title": "发票与报销开具时效",
        "content": "电子普通发票将在订单确认收货后 24 小时内开具并发送至注册邮箱,增值税专用发票需在电脑端提交企业资质审核。"
    }
]

# ----------------- 2. BM25 稀疏词法检索实现 -----------------
class SimpleBM25Retriever:
    """轻量 BM25 关键词精确匹配器"""
    def __init__(self, corpus: List[Dict[str, Any]]):
        self.corpus = corpus
        self.avg_len = sum(len(c["content"]) for c in corpus) / len(corpus)

    def search(self, query: str, top_k: int = 3) -> List[Dict[str, Any]]:
        query_terms = [t for t in query if t.strip()]
        scored_results = []

        for doc in self.corpus:
            score = 0.0
            doc_text = doc["title"] + " " + doc["content"]
            doc_len = len(doc["content"])
            
            for term in query_terms:
                if term in doc_text:
                    tf = doc_text.count(term)
                    # 简化的 BM25 词频计算公式
                    term_score = (tf * 2.2) / (tf + 1.2 * (0.25 + 0.75 * (doc_len / self.avg_len)))
                    score += term_score

            if score > 0:
                scored_results.append({
                    "id": doc["id"],
                    "title": doc["title"],
                    "content": doc["content"],
                    "score": round(score, 4),
                    "source": "bm25"
                })

        scored_results.sort(key=lambda x: x["score"], reverse=True)
        return scored_results[:top_k]

# ----------------- 3. 模拟密集向量检索 -----------------
def mock_dense_vector_search(query: str, corpus: List[Dict[str, Any]], top_k: int = 3) -> List[Dict[str, Any]]:
    """模拟向量数据库召回(在真实生产中,此处调用 Chroma / Milvus / Qdrant)"""
    # 模拟语义相似度
    results = []
    for doc in corpus:
        # 简单模拟语义相关度
        sim_score = 0.5
        if "质保" in query and "保修" in doc["content"]:
            sim_score = 0.88
        elif "退换" in query and "退货" in doc["content"]:
            sim_score = 0.92
        elif "保修多久" in query and "联保" in doc["content"]:
            sim_score = 0.85
        
        results.append({
            "id": doc["id"],
            "title": doc["title"],
            "content": doc["content"],
            "score": sim_score,
            "source": "dense_vector"
        })
    results.sort(key=lambda x: x["score"], reverse=True)
    return results[:top_k]

# ----------------- 4. 混合检索融合与 Rerank 终审 -----------------
def execute_hybrid_rag_pipeline(query: str, top_n: int = 2) -> List[Dict[str, Any]]:
    print(f"\n🔍 [RAG 检索启动] 检索词: '{query}'")

    bm25 = SimpleBM25Retriever(KNOWLEDGE_CHUNKS)
    bm25_res = bm25.search(query, top_k=3)
    vector_res = mock_dense_vector_search(query, KNOWLEDGE_CHUNKS, top_k=3)

    # 合并候选集(去重)
    candidates = {}
    for r in bm25_res + vector_res:
        if r["id"] not in candidates:
            candidates[r["id"]] = r

    print(f"📦 双路召回候选切片数量: {len(candidates)} 个")

    # 模拟 BGE-Reranker 交叉注意力重排序
    # 规则:如果 Query 中包含专有型号代码,优先匹配型号完全吻合的切片
    reranked = []
    for cid, doc in candidates.items():
        cross_score = doc["score"]
        # 精确提权逻辑
        if "X90-Pro-Max" in query and "X90-Pro-Max" in doc["content"]:
            cross_score = 0.985
        elif "7天" in query and "7天" in doc["content"]:
            cross_score = 0.960

        reranked.append({
            "id": doc["id"],
            "title": doc["title"],
            "content": doc["content"],
            "rerank_score": cross_score
        })

    # 按重排分数倒序排序
    reranked.sort(key=lambda x: x["rerank_score"], reverse=True)
    final_chunks = reranked[:top_n]

    print(f"🏆 [Rerank 终审入选 Top {top_n} 切片]:")
    for i, c in enumerate(final_chunks, 1):
        print(f"   [{i}] 得分: {c['rerank_score']} | 标题: {c['title']} | 内容摘要: {c['content'][:35]}...")

    return final_chunks

if __name__ == "__main__":
    print("=" * 60)
    print("测试场景 1:含有精确产品型号代码的疑难提问")
    execute_hybrid_rag_pipeline("请问 X90-Pro-Max 的主板质保期是多长时间?")

    print("\n" + "=" * 60)
    print("测试场景 2:口语化同义泛化提问")
    execute_hybrid_rag_pipeline("衣服穿过了几天觉得不合适能退换吗?")

五、 召回了,为什么还是答错 ​

Q1:为什么切片召回的相似度得分很高(> 0.85),但大模型最终回答依然答非所问? ​

  • 原因剖析:典型的“切片语义孤岛”问题。切片只切出了结论语句(如“在此情况下支持免费维修”),但关键的前提约束条件(如“前提是必须在出厂保修卡生效期内”)被腰斩切在了上一个 Chunk 里。
  • 解决方案:引入父子文档切分(Parent-Document Retrieval)或小切片检索、大上下文窗口回填(Sentence Window Retrieval):检索时拿 150 字的小切片去计算相似度,命中后自动把所属的 1000 字完整父段落回传给大模型。

六、 动手练习与验收 ​

验收:准备三类问题

有明确答案的问题应返回原文依据;相似型号的问题不能串用政策;知识库没有答案的问题应说明缺少依据。把失败样例留下,作为下次调整检索参数的对照。

  1. 动手实践:在本地运行 src/05_hybrid_rag_pipeline.py,观察 BM25 精确命中与语义向量泛化在重排阶段的融合过程。
  2. 拓展思考:如果业务文档库中包含 100 个格式复杂的 Excel 价格与库存表格,普通的基于字符数拆分的 Chunking 策略会发生什么灾难?应该如何处理表格数据的切分与检索?

商业实战出版级教程 | 严禁未授权翻印传播