Jina Reranker

开源权重 + 托管 API · Jina AI · 更新于 2026 年 8 月 11 日

Jina 的 2026 旗舰是 jina-reranker-v3：一个基于 Qwen3-0.6B 的 0.6B listwise 重排序器，可在同一个 131K token 上下文里一次性给最多 64 篇文档打分，BEIR nDCG@10 达到 61.94 —— 以约六分之一的体量超过 Qwen3-Reranker-4B。较早的 v2 成对模型依然有用；v1-tiny 仍是 我们浏览器 Demo 里跑的那个。

模型变体

Listwise v3 改了什么

经典 cross-encoder 对每个 (query, doc) 独立打分。Listwise 模型一次看到整批候选，在多段共享词汇时有助于相对排序。代价是更高显存，以及与 MiniLM 成对打分不同的服务路径。

v3 公布的 BEIR nDCG@10 为 61.94 —— 与我们表中最强的 cross-encoder 持平，却小到单卡即可部署，并且在体量只有 6 分之 1 的情况下超过 Qwen3-Reranker-4B。架构上，它先对整个候选列表做因果注意力，再从每篇文档的最后一个 token 取上下文向量，而不是在末端逐对打分。细节见 v3 论文；模型 ID 与各项限制请以 jina.ai/reranker 为准。

价格

相比按次计费，按 token 计费对长文档更友好。当前费率请查阅 Jina AI 官网。

快速上手

托管 API（Python）

import requests

def rerank(query: str, documents: list[str], top_n: int = 5) -> list[str]:
    resp = requests.post(
        "https://api.jina.ai/v1/rerank",
        headers={"Authorization": "Bearer YOUR_KEY", "Content-Type": "application/json"},
        json={
            "model": "jina-reranker-v3",  # or jina-reranker-v2-base-multilingual
            "query": query,
            "documents": documents,
            "top_n": top_n,
        },
    ).json()
    return [documents[r["index"]] for r in resp["results"]]

自建部署（sentence-transformers）

from sentence_transformers import CrossEncoder

# Open weights — same model, self-hosted
model = CrossEncoder("jinaai/jina-reranker-v2-base-multilingual",
                     trust_remote_code=True, max_length=1024)

scores = model.predict([(query, doc) for doc in documents])
ranked = sorted(zip(scores, documents), reverse=True)

浏览器 / 边缘端使用

v1-tiny 模型（量化后 33 MB）在普通宽带下可通过 transformers.js 在 10 秒内加载，对 10 个候选的批次打分约需 200 ms。这正是驱动我们 Demo 的模型：

// transformers.js (ES module in the browser)
import { AutoTokenizer, AutoModelForSequenceClassification }
  from "https://cdn.jsdelivr.net/npm/@huggingface/transformers@3";

const tokenizer = await AutoTokenizer.from_pretrained(
  "jinaai/jina-reranker-v1-tiny-en", { dtype: "q8" }
);
const model = await AutoModelForSequenceClassification.from_pretrained(
  "jinaai/jina-reranker-v1-tiny-en", { dtype: "q8" }
);

const inputs = tokenizer([query, query], {
  text_pair: [doc1, doc2],
  padding: true, truncation: true,
});
const { logits } = await model(inputs);
const scores = logits.sigmoid().tolist();

优缺点

其他模型