我该用哪个 reranker?

工具 ·

四个问题,给你一个起点。答案来自本站的模型评测和指南;哪一个都替代不了在你自己的查询上测一遍。

你的情况

你要排序的是什么?

在哪里运行?

哪些语言?

需要用指令告诉它什么算相关吗?

从这里开始

下面列出了全部建议;开启 JavaScript 后,只显示符合你选择的那几条。

托管 API:Cohere Rerank 5 或 Voyage rerank-3

两者都按 token 计费,标价相同。Cohere Rerank 5 返回校准过的分数,一个阈值可以跨查询使用。Voyage rerank-3 还支持指令,以后需要时可以用上。成本计算器可以按你的用量把它们和其他 API 放在一起比较。

支持指令的 API:Voyage rerank-3 或 Contextual AI

Voyage rerank-3 支持自然语言指令;Cohere Rerank 5 不支持。Contextual AI Rerank v2 就是围绕指令设计的,以 API 形式出售(开源权重仅限非商用)。指令指南里有写法示例。

在中国大陆:阿里云百炼或硅基流动

阿里云百炼按 token 以人民币出售 qwen3-rerank,硅基流动用同一个接口提供 bge-reranker-v2-m3 和 Qwen3-Reranker。国内指南把它们和自己部署权重做了比较。

自己的 GPU:Qwen3-Reranker-4B

Qwen3-Reranker 覆盖 100 多种语言,支持指令。在 Qwen 自己的测试里,4B 在英文上超过 8B,所以不必默认选最大的。自建指南里有能直接跑的代码。

只有 CPU、多语言:bge-reranker-v2-m3

没有 GPU 时,bge-reranker-v2-m3 是常见的自建默认选择。gte-multilingual-reranker-base 更小,覆盖 70 多种语言。经典的小模型(ms-marco MiniLM、Jina v1、mxbai v1)只用英文训练过。

只有 CPU、英文:ms-marco MiniLM 或 jina-reranker-v1-tiny-en

段落短、延迟要紧时,一个很小的 cross-encoder 往往就够了;这两个也能在浏览器里跑,可以先在 Demo 里试。段落较长的话,看看英文的 GTE reranker。

只有 CPU 时用指令比较勉强

上面这些小型 CPU 模型不支持指令。Qwen3-Reranker-0.6B 支持,但建议配 GPU。加不了 GPU 的话,用支持指令的 API 更省事。

页面图片、自建:Qwen3-VL-Reranker、LightOn-rerank 或 NVIDIA Nemotron

文本 reranker 只能看到 OCR 提取出来的内容;这几个直接给页面图片打分,而且都需要 GPU。Qwen3-VL-Reranker 和 LightOn-rerank 是 Apache 2.0。NVIDIA 的 Nemotron reranker 允许商用,还能把页面图片和提取出的文字一起读。

页面图片、托管:阿里云的 qwen3-vl-rerank

阿里云百炼把 qwen3-vl-rerank 作为 API 出售,支持图片和视频。本站其余的视觉 reranker 都是需要自己用 GPU 部署的开源权重,见场景指南。

做代码检索,先把召回做好

只用向量检索会漏掉精确的函数名,只用 BM25 会漏掉换了说法的问题。先用混合检索,再重排序。Qwen 和 Voyage 都公布了各自 reranker 的代码检索结果。

然后验证

建议只是起点,不是答案。先在横向对比指南或模型对比表里把候选并排看一遍,再拿你自己的五十条查询评测其中两个。每个推荐背后的理由在场景指南里。