Cohere Rerank 5
Cohere Rerank 是最早的商用重排序 API 之一,至今仍是部署最广的之一。当前一代 Rerank 5 于 2026 年 10 月 21 日发布,分两个版本:重质量的 rerank-v5.0-pro(约 2B 参数)和重吞吐的 rerank-v5.0-fast(约 500M)。两者都支持 32,768 token 和 100 多种语言,返回校准过的分数,还能指出每篇文档里真正相关的段落。Rerank 4 仍可继续使用。
可用模型
| 模型 ID | 语言 | 上下文 | 说明 |
|---|---|---|---|
rerank-v5.0-pro | 100+ 种语言 | 32,768 token | 当前旗舰,约 2B 参数;最适合需要推理的查询和长篇或专业领域文档 |
rerank-v5.0-fast | 100+ 种语言 | 32,768 token | 约 500M 参数;适合高并发搜索和智能体循环调用 |
rerank-v4.0-pro | 100+ 种语言 | 32,768 token | 上一代旗舰(2026 年 4 月) |
rerank-v4.0-fast | 100+ 种语言 | 32,768 token | 更低延迟、更高吞吐 |
rerank-v3.5 | 100+ 种语言 | 4096 tokens/doc | 上一代多语言旗舰 |
新项目先用 rerank-v5.0-pro;更看重吞吐或尾延迟时用 rerank-v5.0-fast。Cohere 称 Rerank 5 Fast 胜过 Rerank 4 Pro。升级只需改 model 参数:重排序模型在查询时直接读原文,所以什么都不用重建索引。Rerank 5 按 token 计费,每 100 万 token $0.05(Pro)或 $0.02(Fast),不再像 Rerank 4 那样按次检索计费:见价格。
Rerank 5 有什么新东西
- 校准过的分数。每个结果的分数在 0 到 1 之间,并且在不同查询、不同领域之间含义一致,所以可以用一个阈值决定哪些结果交给 LLM,或者什么时候重新检索、回答“不知道”。在 Rerank 4 上调好的阈值,复用前要重新检查。
- Context Focus。可选功能,默认关闭。在请求里加上
relevant_spans,每个结果还会返回文档内回答了查询的段落(带分数的字符偏移),这样可以只把这些段落交给 LLM,或者在界面上高亮给用户看。 - 半结构化数据。JSON、表格或记录以 YAML 字符串的形式传入。
"relevant_spans": {"mode": "enabled", "threshold": 0.3, "max_spans": 10}
threshold 越高,保留的文字越少;max_spans 限制每篇文档返回的段落数。Cohere 提醒,Context Focus 适合针对性的问题;总结类请求需要整篇文档,表格、表单和代码也不如普通文字切得干净。这个功能通过 Cohere 自己的 API 提供。
它做不到的:Rerank 5 只接收文本,也不接受改变相关性判断方式的指令。需要指令的话,看 Voyage rerank-3 或 Qwen3-Reranker 这类能跟随指令的重排序模型。
在哪里能用:Cohere API、Cohere 的 Model Vault、Microsoft Foundry 和 Amazon SageMaker,或者私有部署。Amazon Bedrock 的重排序 API 仍然只有 Rerank 3.5。
价格
| 档位 | 价格 | 限制 |
|---|---|---|
rerank-v5.0-pro | 每 100 万 token $0.05 | 按 token 计费,不按次检索;Cohere 没说明查询怎么计入 |
rerank-v5.0-fast | 每 100 万 token $0.02 | 计费单位相同 |
| 试用 key | $0 | 每月 1,000 次 API 调用;Rerank 每分钟限 10 次请求;不得用于生产或商业用途 |
rerank-v4.0-pro | 每次检索 $0.0025(最后公布价) | 一次检索 = 1 个 query + 最多 100 篇文档;文档(连同 query)超过 500 token 时,每 500 token 一块,每块算一篇 |
rerank-v4.0-fast | 每次检索 $0.002(最后公布价) | 计费单位相同 |
| Model Vault(专属实例) | 每 GPU 小时 $3.00 起 | 专属实例,按 GPU 型号和副本数计费,而不是按模型计费;这个数字是 L4 的按需价格 |
| 私有部署 | 定制 | 本地部署或隔离的 VPC |
价格取自 cohere.com/pricing 和 Cohere 的速率限制文档,本站来源检查每天复核;Cohere 的 Rerank 5 发布文章给出的按 token 价格相同。2026 年 10 月 21 日 Cohere 公布 Rerank 5 价格时,价格页不再列出 Rerank 4,但 Rerank 4 仍在提供服务。上表的 Rerank 4 价格(每千次检索 $2.50 和 $2)是它最后一次公布的价格,10 月 1 日至 21 日每天核对。500 token 规则适用于这种按次检索的价格:它对真实负载意味着什么,见成本计算器。
也可以通过云平台用:Amazon Bedrock 提供 Cohere Rerank 3.5,每 1,000 次查询 $2.00,每次查询最多 100 个文档。Pinecone 在自家向量数据库里提供 cohere-rerank-4-fast,并且从 2026 年 8 月 31 日起,对 cohere-rerank-3.5 的请求都改由 4-fast 响应。
快速上手
Python
pip install cohere
import cohere
co = cohere.ClientV2("YOUR_API_KEY")
query = "How do I add reranking to my RAG pipeline?"
documents = [
"Rerankers score each query-passage pair jointly with a cross-encoder.",
"BM25 is a classical keyword-based retrieval method.",
"London is the capital of the United Kingdom.",
"Two-stage retrieval: retrieve 50 candidates, rerank to top 5.",
]
results = co.rerank(
model="rerank-v5.0-pro",
query=query,
documents=documents,
top_n=3,
)
for r in results.results:
print(f"{r.relevance_score:.4f} {documents[r.index][:80]}")
Node.js
import Cohere from "cohere-ai";
const co = new Cohere.Client({ token: "YOUR_API_KEY" });
const result = await co.rerank({
model: "rerank-v5.0-pro",
query: "How do I add reranking to my RAG pipeline?",
documents: ["...", "..."],
topN: 3,
});
result.results.forEach((r) => console.log(r.relevanceScore, documents[r.index]));
REST(curl)
curl https://api.cohere.com/v2/rerank \
-H "Authorization: Bearer YOUR_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "rerank-v5.0-pro",
"query": "How do I add reranking to my RAG pipeline?",
"documents": ["Rerankers score query-passage pairs...", "BM25 is..."],
"top_n": 3
}'
优缺点
优点
- 成熟的生产级 API,带 SLA
- 在 100+ 语言上质量稳定
- SDK 支持:Python、Node、Java、Go、curl
- 免费试用 key 适合原型开发(每月 1,000 次调用)
- 32,768 token 上下文窗口
- Rerank 5:校准过的分数和 Context Focus
- Rerank 5 按 token 计费,段落越短越便宜
缺点
- 权重闭源 —— 你依赖于 Cohere
- Rerank 4 按次检索计费时,超过 500 token 的段落按多篇文档计
- 想自建部署需要签私有部署合同
- 不支持任务指令,Rerank 5 也不支持
- 每次调用都要走一趟网络 —— 请从你自己所在的区域实测
其他模型
正在几个模型之间犹豫?在同一评测下对比这些 reranker →