Qwen3 Reranker - 阿里通义开源的文本重排序模型
发布于 2025-06-06 · Qwen3 Reranker是阿里巴巴通义千问团队发布的文本重排序模型,属于Qwen3模型家族。采用单塔交叉编码器架构,输入文本对后输出相关性得分。模型通过多阶段训练范式,基于高质量标注数据和大量合成训练对进行训练,支持超过100种语言,涵盖主流自然语言及多种编程语言。
Qwen3 Reranker是什么
Qwen3 Reranker是阿里巴巴通义千问团队发布的文本重排序模型,属于Qwen3模型家族。它用的是单塔交叉编码器架构,输入文本对,输出一个相关性得分。训练走多阶段范式,既用高质量标注数据,也用大量合成的训练对。语言支持超过 100 种,主流自然语言和多种编程语言都在内。成绩方面,Qwen3 Reranker-8B 在 MTEB 排行榜上拿到 72.94 的高分,Qwen3 Reranker-0.6B 也已经超过 Jina 和 BGE Rerankers。
Qwen3 Reranker的主要功能
- 文本相关性评估:Qwen3 Reranker 接的输入是用户查询、候选文档这类文本对,算完输出两者的相关性得分——分越高,说明这一对文本越相关。
- 文本重排序:拿到相关性得分后,Qwen3 Reranker 会给候选文本排序,跟用户查询最贴合的排在前头。
-
优化检索结果:语义检索时,这一步能让人更快找到最相关的信息,检索效率和准确性都跟着往上走。
-
支持多种语言:Qwen3 Reranker 支持超过 100 种语言,主流自然语言和多种编程语言都覆盖到了。
Qwen3 Reranker的技术原理
-
单塔交叉编码器架构:Qwen3 Reranker 的单塔交叉编码器会把查询和候选文档拼在一起送进模型,文本对能被同时处理、做深度交互分析,相关性评估因此更准。
-
指令感知能力:任务目标可以用指令临时定义,比如“判断法律文档相关性”,模型会按不同任务和场景调整相关性的评估标准。
-
输入输出格式:输入要走特定的聊天模板,里面包含指令、查询和文档。输出是相关性得分,这个分由“是”或“否”的概率算出来。
-
多阶段训练范式:Qwen3 Reranker 的训练分成好几个阶段。监督微调阶段直接用高质量标注数据训练,效率更高;后面再靠合成数据把模型性能往上推。
-
高质量数据筛选:训练数据挑得比较严,Qwen3 Reranker 用了 MS MARCO、NQ、HotpotQA 等多种高质量标注数据集,合成数据对则通过余弦相似度筛出来。
-
模型融合技术:微调阶段保存下来的多个模型检查点,会用球面线性插值(SLERP)做参数融合。这样能更好保住参数的几何特性,模型遇到不同数据分布时更稳,泛化也更好。
-
监督微调损失(SFT Loss):Qwen3 Reranker 优化的是监督微调损失函数:把正确标签(“yes”或“no”)的概率最大化,模型就学会了区分相关文档和无关文档。这套二分类把重排序任务简化了,靠的是 Qwen3 模型的指令跟随能力。
Qwen3 Reranker的项目地址
- HuggingFace模型库:https://huggingface.co/collections/Qwen/qwen3-reranker
Qwen3 Reranker的应用场景
-
语义检索:搜索引擎、问答系统这类场景里,检索结果可以再排一遍,最相关的内容优先露出来。
-
文本分类:先评估文本和类别标签的相关性,再拿这个分去辅助文本分类,分类精度能提高。
-
情感分析:做情感分析时,把评论与各情感标签的相关性排个序,情感倾向更好判断。
-
代码搜索:在代码库里给代码片段和查询排相关性,开发者找相关代码更快。






0 条评论
暂无评论,来抢沙发。