把公司文档一股脑喂给向量库,是很多团队做智能问答的第一步,也是踩坑最集中的一步。我见过一个内部助手,演示时能对答如流,上线第三周就被业务方打回:财务问报销标准,它掏出了三年前作废的版本;研发问接口鉴权,它把测试环境文档当成了生产配置。

复盘下来,问题极少出在生成模型上,几乎都卡在检索这一层。
一次看似简单的问答,实际要走六道工序:查询改写 → 混合召回 → 重排序 → 上下文组装 → 受限生成 → 带出处返回。多数人只盯着第五步调参,前四步却一直在裸奔。
几个上线后才会暴露的真实雷点:
翻车环节 | 典型现象 | 工程上的修法 |
PDF 解析 | 双栏、跨页表、扫描件污染切片 | 扫描件先走 OCR,别信文本层 |
向量检索 | 罕见错误码 TS-999 召回一堆“通用错误处理” | 关键词检索 + 向量检索并行,再交 Rerank 精排 |
脏数据入库 | 已作废/已退货记录没打状态位,被当成有效知识 | 预处理层按业务状态字段过滤,别全量灌 |
权限越界 | 普通员工问到了仅管理层可见条款 | 上下文组装阶段做元数据过滤 |
EEC工信教考中心,互联网应用工程师,辉达
马老师13521730416
丁老师13522094648
一个被验证有效的思路是“检索决策框架”:先判断用户问题属于哪一类——精确数值走结构化查询,概念解释走语义召回,跨文档推理才进大模型生成。不是所有问题都该走向量搜索。
RAG 系统的准确率上限,等于你检索链路的上限,而不是底座模型的上限。
