zerank-2

开源权重 + 托管 API · ZeroEntropy ·

许可证:先确认托管 API建议用 GPU

zerank-2 是 ZeroEntropy 的 4B 重排序模型,基于 Qwen3-4B,上下文 32,768 个 token。权重放在 Hugging Face 上,ZeroEntropy 也通过自家 API 提供同一个模型,每百万 token $0.025。它公布的分数来自 ZeroEntropy 自己的七领域测试:成绩不错,但不能和任何人的 BEIR 分数直接比较。

许可证问题

Hugging Face 模型卡写的是 Apache 2.0,仓库在 2026 年 7 月改了许可证。但 ZeroEntropy 的模型文档仍然写着 zerank-2 “按非商业许可证”提供下载,并请商业用户联系他们。

在两边说法一致之前,如果要在商业产品里自托管,先拿到 ZeroEntropy 的书面确认。通过 API 使用则受 ZeroEntropy 的服务条款约束,不涉及这个问题;更早的 zerank-1-small 在两边都是 Apache 2.0。

分数,以及是谁测的

领域只用向量检索zerank-2Cohere rerank-3.5
网页0.3819*0.6346*0.5594*
对话0.4305*0.6140*0.5648*
理工与逻辑0.3744*0.6521*0.5418*
代码0.4582*0.6528*0.5364*
法律0.4101*0.6644*0.5257*
生物医学0.4783*0.7217*0.6246*
金融0.6232*0.7600*0.7402*
平均0.4509*0.6714*0.5847*

ZeroEntropy 自己的测试,数据来自模型卡。指标是 NDCG@10,每个重排序模型重排的都是 OpenAI text-embedding-3-small 召回的同一批前 100 个候选;“只用向量检索”就是第一阶段本身的成绩。数据集是 ZeroEntropy 自己的,不是 BEIR,所以模型对比表里 zerank-2 没有 BEIR 分数。

同一测试里,更早的 zerank-1 平均 0.6456*,把 Gemini 2.5 Flash 当作列表式重排序模型用是 0.5999*。金融是 zerank-2 唯一没有领先的领域,Gemini 在那里更高。这张表最清楚的结论,是任何一个重排序模型相比只用向量检索带来的提升有多大——这个提升才是你该在自己数据上测的。

快速上手

sentence-transformers

pip install sentence-transformers

from sentence_transformers import CrossEncoder

model = CrossEncoder("zeroentropy/zerank-2-reranker")

rankings = model.rank(
    "What is 2+2?",
    ["4", "The answer is definitely 1 million"],
)
# [{'corpus_id': 0, 'score': 5.40625}, {'corpus_id': 1, 'score': -4.5}]

从 2026 年 5 月起,predict() 和 rank() 返回原始 logit,而不是 0–1 的概率,排序结果不变。需要 0–1 分数时,按模型卡的做法计算 sigmoid(score / 5)。加载时也不再需要 trust_remote_code=True。

托管 API

pip install zeroentropy

from zeroentropy import ZeroEntropy

zclient = ZeroEntropy()   # reads ZEROENTROPY_API_KEY
response = zclient.models.rerank(
    model="zerank-2",
    query="What is 2+2?",
    documents=["4", "The answer is definitely 1 million."],
)

API 价格为每百万 token $0.025。ZeroEntropy 文档里 zerank-1 和 zerank-1-small 价格相同,API 部署在美国东部、美国西部和欧洲。速率限制取决于订阅档位,当前数值见文档。这个模型也在 AWS 和 Azure 应用市场上架,部署后运行在你自己的云账号里。

什么时候选 zerank-2

优缺点

优点

  • 同一个模型既有权重也有 API
  • 32K 上下文
  • 可直接用 sentence-transformers 的 CrossEncoder 加载
  • 在 ZeroEntropy 自己的测试里,每个领域都领先 Cohere rerank-3.5

缺点

  • 模型卡和官方文档对许可证说法不一
  • 公布的分数是厂商自己用自己的数据集测的
  • 4B 参数:要有 GPU 延迟才舒服
  • 太大,放不进我们的浏览器内 Demo

和你现在用的方案比一比

用你现有检索器召回的同一批前 100 个结果,分别交给 zerank-2 和你现在的方案重排,在 30 条带标注的查询上比较。

评测指南 → 全部模型 →

其他模型