BGE-Reranker能解决中文知识库“搜得到但排不靠前”问题，需确保Embedding与Rerank模型语义空间对齐；推荐bge-large-zh嵌入模型，本地部署BGE-Reranker-v2-m3并配置top_k=10–15、threshold=0.65、启用父子分段；通过检索日志验证rerank_score字段确认生效。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜
在Dify中接入BGE-Reranker，能直接解决中文知识库“搜得到但排不靠前”的问题——比如用户问“如何申请电子发票”，向量检索返回了3条结果，其中第2条才是含完整操作步骤的段落，而BGE-Reranker会把它重排到第1位，让LLM真正拿到最相关上下文。
确认前置条件：Embedding模型与Rerank模型必须对齐
这一步不能跳过。Dify启动Rerank前，【TEXT EMBEDDING模型必须已配置且测试连接成功】，推荐bge-large-zh（私有化部署）或text-embedding-ada-002（云服务）。若Embedding未启用或维度返回异常，Rerank模块将无法加载，后续所有配置均无效。
进入Dify后台 → 设置 → 模型配置 → 文本嵌入 → 选择模型并点击「测试连接」→ 确认返回维度值（如bge-large-zh为1024）。
注意：BGE-Reranker系列模型不参与向量化，它只负责对Embedding生成的候选文档做二次打分。两者语义空间必须一致，否则rerank得分无意义。
本地部署BGE-Reranker-v2-m3（CPU/GPU均可）
方法一：修改config.py硬编码配置（适合Docker Compose或源码部署）
打开dify/config.py文件，在末尾添加以下三行：
RERANK_MODEL_NAME = "BAAI/bge-reranker-v2-m3"
RERANK_DEVICE = "cuda" # 若无GPU，改为"cpu"
RERANK_MAX_LENGTH = 512
保存后重启Dify服务。首次加载模型需约90秒，权重自动缓存至~/.cache/huggingface/transformers/。
方法二：环境变量注入（适合K8s或CI/CD流水线）
在启动Dify容器时，通过-e参数注入：
-e RERANK_MODEL_NAME="BAAI/bge-reranker-v2-m3" \
-e RERANK_DEVICE="cuda" \
-e RERANK_MAX_LENGTH="512"
该方式无需修改代码，升级或回滚更安全。若同时部署多个Dify实例，建议统一使用此法避免配置漂移。
在知识库中启用Rerank并调优参数
第一步：进入具体知识库 → 设置 → 高级设置 → 打开「启用重排序」开关
第二步：在「重排序模型」下拉菜单中选择「BGE-Reranker-v2-m3」
第三步：关键参数设置（按优先级排序）：
• top_k：设为10–15。设太小（如3）会导致rerank失去筛选空间；设太大（如30）则显著拖慢响应，且后10名基本无价值。
• threshold：设为0.65。低于该分的片段会被直接过滤，避免低质内容污染LLM上下文。实测中，0.65是中文技术文档P@3提升29.6%的临界点。
• 启用父子分段：父段650字 + 子段200字 + 重叠50字。这是让rerank发挥最大效力的前提——子段富含关键词，父段承载完整逻辑，rerank能精准锚定高信息密度块。
验证Rerank是否生效
上传一份含明确歧义词的测试文档，例如同时包含「苹果手机保修期」和「苹果营养价值」的段落。
提问：“iPhone 15保修多久？” → 观察检索结果顺序是否从原第3位跃升至第1位。
进入Dify后台 → 日志 → 检索日志，查找含「rerank_score」字段的记录，确认输出类似："score": 0.872,"passage_id": "doc_abc_002"。
若日志中无rerank_score字段，说明模型未加载或配置未生效，需返回第一步检查Embedding连接状态。
