Qwen3-VL-Reranker
Qwen3-VL-Reranker(2B / 8B)给查询和文档打相关性分,文档可以是文字、图片、截图、视频,或它们的组合。扫描页或幻灯片按图片本身来排序,而不是靠 OCR 碰巧识别出来的文字。它基于 Qwen3-VL,32K 上下文,支持 30 多种语言,Apache 2.0 许可。如果文档只有文字,应该看它的同门 Qwen3-Reranker。
模型版本
| 模型 | 参数量 | 层数 | 上下文 |
|---|---|---|---|
Qwen/Qwen3-VL-Reranker-2B | 2B | 28 | 32K |
Qwen/Qwen3-VL-Reranker-8B | 8B | 36 | 32K |
两个版本都支持任务指令。Qwen 称加指令通常能提升 1–5%,并建议即使处理其他语言也用英文写指令。这个系列和 Qwen3-VL-Embedding 配套:后者负责同类输入的第一阶段召回。
分数,以及是谁测的
| 模型 | MMEB-v2 图片 | MMEB-v2 视频 | MMEB-v2 视觉文档 | JinaVDR | ViDoRe v3 | MMTEB 检索 |
|---|---|---|---|---|---|---|
| jina-reranker-m0 | 68.2* | — | 85.2* | 82.2* | 57.8* | — |
| Qwen3-VL-Reranker-2B | 73.8* | 52.1* | 83.4* | 80.9* | 60.8* | 70.0* |
| Qwen3-VL-Reranker-8B | 80.7* | 55.8* | 86.3* | 83.6* | 66.7* | 74.9* |
Qwen 自己的测试,数据来自模型卡。模型卡没有说明每个重排序模型重排的是哪个第一阶段的结果。MMEB-v2 包括图片、视频和视觉文档检索;JinaVDR 和 ViDoRe v3 是视觉文档(页面图片)基准;MMTEB 检索是纯文本。它们都不是 BEIR。
在 Qwen 的表里,2B 和 jina-reranker-m0 很接近(m0 是 Jina 的多模态重排序模型,权重只允许非商业使用):图片和 ViDoRe v3 上领先,视觉文档和 JinaVDR 上落后。8B 每一列都领先。还有一个外部测试:做竞品模型的 LightOn 用 BM25 召回前 100 个结果做 BEIR,取 11 个没进过他们训练数据的数据集平均。在那里 2B 得 49.08,jina-reranker-m0 得 51.97:在这次纯文本测试里,2B 落后于 m0。
快速上手
sentence-transformers
pip install sentence-transformers
from sentence_transformers import CrossEncoder
model = CrossEncoder("Qwen/Qwen3-VL-Reranker-2B")
query = "A woman playing with her dog on a beach at sunset."
documents = [
"A woman shares a joyful moment with her golden retriever on a beach at sunset.",
"https://qianwen-res.oss-cn-beijing.aliyuncs.com/Qwen-VL/assets/demo.jpeg",
{"text": "Golden retriever on the beach", "image": "https://qianwen-res.oss-cn-beijing.aliyuncs.com/Qwen-VL/assets/demo.jpeg"},
]
prompt = "Retrieve images or text relevant to the user's query."
rankings = model.rank(query, documents, prompt=prompt)
文档可以是文字、图片的 URL 或路径,或者同时包含两者的 dict。不传 prompt 时,默认指令是“Retrieve text relevant to the user’s query.”。模型卡还给了直接用 transformers 的写法(需要 Qwen GitHub 仓库里的辅助脚本)和 vLLM 的写法。
托管选项
阿里云百炼提供 qwen3-vl-rerank,硅基流动托管了 Qwen3-VL-Reranker-8B,两者在中国大陆都能直接访问;接口地址和价格见国内重排序指南。阿里云没有公布托管版本的分数。
什么时候选 Qwen3-VL-Reranker
- 适合:文档是页面图片:扫描件、幻灯片、截图、看板。
- 适合:查询要匹配图片或视频,或者图文混排的文档。
- 可能不适合:文档是纯文本。用 Qwen3-Reranker 或其他文本重排序模型,同样的活计算量更小。
- 可能不适合:只有 CPU 的部署。即使是 2B 也需要 GPU,而且有图片时每一对的打分成本都比纯文本高。
优缺点
优点
- 文字、图片、截图、视频一个模型搞定
- 两个尺寸都是 Apache 2.0
- 支持任务指令
- 可用 sentence-transformers 的
CrossEncoder加载
缺点
- 需要 GPU,图片的打分成本比文字高
- 公布的分数是 Qwen 自己测的,没说明第一阶段
- 对纯文本文档来说大材小用
- 太大,放不进我们的浏览器内 Demo