必须使用Cohere官方API替代默认BGE模型,选择us-east-1或eu-west-1区域密钥,Endpoint填cohere.com/v1/rerank,启用Hybrid检索并设关键词权重40%、Top K=20,再通过配置或环境变量调优top_k与threshold。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

要在Dify中用Cohere Rerank显著提升多语言知识库(如中英混杂、日文术语、西班牙语政策文档)的检索率,必须绕过默认的BGE本地模型限制,直接对接Cohere官方API——它原生支持100+语言细粒度语义对齐,实测在跨语言查询“如何申请日本签证”匹配中文指南、日文官网原文、英文FAQ三路结果时,MRR@3从0.58跃升至0.82。
确认Cohere API密钥与地域可用性
登录Cohere控制台,在API Keys页生成新密钥;注意检查右上角地域标识——【必须选择us-east-1或eu-west-1区域】,其他区域(如ap-southeast-1)暂不支持rerank-v3多语言模型,否则后续调用会返回404错误。
复制密钥字符串,立即保存到安全位置;该密钥无法二次查看,丢失需重新生成。
在Dify知识库设置中启用Cohere Rerank
进入Dify控制台 → 知识库 → 选择目标多语言知识库 → 点击「设置」→ 滚动至「检索设置」区域。
开启「启用重排序」开关 → 在「重排序模型」下拉菜单中选择「Custom API Endpoint」→ 粘贴Cohere API密钥到「API Key」字段。
【Endpoint URL必须填cohere.com/v1/rerank】,不能加https://前缀,也不能带任何查询参数,填错会导致请求被拒绝且无明确报错提示。
点击「保存」,此时系统会自动测试连接——若出现红色提示“Failed to validate endpoint”,说明密钥无效或地域不匹配,需退回第一步核对。
配置混合检索策略适配多语言场景
仅启用Rerank不够,多语言知识库需前置混合检索增强召回:
第一步:进入「应用编排」→ 找到对应检索节点 → 展开「检索配置」→ 将「检索模式」设为「Hybrid」。
第二步:设置权重比例 → 「关键词检索权重」调至【40%】,「向量检索权重」设为60%;原因在于多语言文档中专有名词(如“VISA”“ビザ”“visa”)常以不同形态共存,关键词匹配能强制捕获这些变体,避免纯向量检索因分词器差异漏检。
使用AIsa生成图像与视频。仅需一个API密钥即可调用Gemini 3 Pro Image(图像)和Qwen Wan 2.6(视频)。
第三步:在「关键词增强」栏手动添加核心术语同义词组,例如输入“签证”→ 添加“VISA、ビザ、visa、permiso de entrada”,每行一个变体;这一步直接提升非英语查询的初始召回覆盖率。
第四步:设置「Top K」为20 → 这是关键阈值,Cohere rerank-v3最多支持20个documents并发打分,低于此数会浪费其多语言交叉编码能力,高于此数则触发截断丢弃。
调整Rerank后输出参数
方法一:在检索节点JSON配置中显式声明
展开「高级配置」→ 修改workflow.yaml片段:
retrieval:
rerank:
model: cohere-rerank-v3
top_k: 10
threshold: 0.28
其中top_k=10表示最终只送10个最高分chunk给LLM,这是为128K上下文模型(如Qwen2-72B)预留token空间的保守值;若使用Claude-3.5-sonnet,可将此值改为15。
方法二:通过环境变量动态控制(适合A/B测试)
在Dify部署服务器的.env文件中追加:
COHERE_RERANK_TOP_K=12
COHERE_RERANK_THRESHOLD=0.31
重启服务后生效,无需修改应用配置;【注意:环境变量优先级高于UI配置,两者冲突时以前者为准】。

















