今天介绍reranker模型Qwen3-Reranker的微调或重训。Qwen3-Reranker这个模型直接就能用但如果是行业知识库通用模型的效果就不是那么好需要进行微调或者重训。1 模型原理Qwen3-Reranker基于Qwen3基座改造把重排建模为 Yes/No 二分类生成任务输入套固定 Chat 模板system指令 query document模型预测末尾 token 是yes相关/no无关推理分数score log(p(yes) / p(no))分数越高相关性越强。2 两种训练思路第一种LoRA 微调垂类适配首选适合行业知识库只有少量样本仅训练少量低秩矩阵0.6B模型单卡16G就能跑。第二种完整重训从零训练有海量训练数据的时候选用全参数更新显存需求高单卡40G。3 训练数据构造首先需要准备训练数据标准训练 JSONL 格式官方标准每行一条1 个 query 配 1 正 N 负推荐 1 正 8 负n-docs8{”query”:”新能源汽车电池热管理”, ”positive”:”一种动力电池散热方法……”, ”negatives”:[”一种轮胎制造工艺……”,”一种锂电池的正极材料”,...]}负样本分层简单负样本完全无关文档困难负样本关键词重合但语义无关对抗负样本部分匹配但答非所问量级建议LoRA 微调1k~5w标注对即可见效完整重训千万级弱监督合成数据 百万级人工精标样本获取方式简单负样本随机负采样batch内负采样搜索日志点击且有一些深度行为的为正例点了第3条但未点1、2条则1、2条为难负样本论文和专利的title、关键词等域比如关键词或title做query正文当正样本doc用户负反馈可收集部分对抗负样本LLM标注抽样一些高频query搜索系统的top k条结果使用LLM通过一定prompt让大模型对query和doc打分04分把打分高的当正样本打分低的当负样本打分中等的不用或者人工介入review确认4 训练采用官方工具qwen3-rerank-trainer内置4种排序损失支持LoRA/全量训练。安装命令pip install ”qwen3-rerank-trainer[full]”Lora微调qwen3-rerank-train \ --model Qwen/Qwen3-Reranker-0.6B \ --data train_rerank.jsonl \ --output ./output_rerank_lora \ --lora \ --lora-r 8 \ --lora-alpha 16 \ --n-docs 8 \ --n-pos 1 \ --loss-type lambda_loss \ --lambda-metric ndcg \ --epoch 3 \ --lr 2e-5 \ --bf16全量重训qwen3-rerank-train \ --model Qwen/Qwen3-Reranker-0.6B \ --data big_train.jsonl \ --output ./output_full_train \ --loss-type infonce \ --epoch 5 --lr 6e-6 \ --deepspeed ds_zero2.json学AI大模型的正确顺序千万不要搞错了2026年AI风口已来各行各业的AI渗透肉眼可见超多公司要么转型做AI相关产品要么高薪挖AI技术人才机遇直接摆在眼前有往AI方向发展或者本身有后端编程基础的朋友直接冲AI大模型应用开发转岗超合适就算暂时不打算转岗了解大模型、RAG、Prompt、Agent这些热门概念能上手做简单项目也绝对是求职加分王给大家整理了超全最新的AI大模型应用开发学习清单和资料手把手帮你快速入门学习路线:✅大模型基础认知—大模型核心原理、发展历程、主流模型GPT、文心一言等特点解析✅核心技术模块—RAG检索增强生成、Prompt工程实战、Agent智能体开发逻辑✅开发基础能力—Python进阶、API接口调用、大模型开发框架LangChain等实操✅应用场景开发—智能问答系统、企业知识库、AIGC内容生成工具、行业定制化大模型应用✅项目落地流程—需求拆解、技术选型、模型调优、测试上线、运维迭代✅面试求职冲刺—岗位JD解析、简历AI项目包装、高频面试题汇总、模拟面经以上6大模块看似清晰好上手实则每个部分都有扎实的核心内容需要吃透我把大模型的学习全流程已经整理好了抓住AI时代风口轻松解锁职业新可能希望大家都能把握机遇实现薪资/职业跃迁这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】
RAG/搜索重排相关性之二——Qwen3-Reranker模型微调或重训
今天介绍reranker模型Qwen3-Reranker的微调或重训。Qwen3-Reranker这个模型直接就能用但如果是行业知识库通用模型的效果就不是那么好需要进行微调或者重训。1 模型原理Qwen3-Reranker基于Qwen3基座改造把重排建模为 Yes/No 二分类生成任务输入套固定 Chat 模板system指令 query document模型预测末尾 token 是yes相关/no无关推理分数score log(p(yes) / p(no))分数越高相关性越强。2 两种训练思路第一种LoRA 微调垂类适配首选适合行业知识库只有少量样本仅训练少量低秩矩阵0.6B模型单卡16G就能跑。第二种完整重训从零训练有海量训练数据的时候选用全参数更新显存需求高单卡40G。3 训练数据构造首先需要准备训练数据标准训练 JSONL 格式官方标准每行一条1 个 query 配 1 正 N 负推荐 1 正 8 负n-docs8{”query”:”新能源汽车电池热管理”, ”positive”:”一种动力电池散热方法……”, ”negatives”:[”一种轮胎制造工艺……”,”一种锂电池的正极材料”,...]}负样本分层简单负样本完全无关文档困难负样本关键词重合但语义无关对抗负样本部分匹配但答非所问量级建议LoRA 微调1k~5w标注对即可见效完整重训千万级弱监督合成数据 百万级人工精标样本获取方式简单负样本随机负采样batch内负采样搜索日志点击且有一些深度行为的为正例点了第3条但未点1、2条则1、2条为难负样本论文和专利的title、关键词等域比如关键词或title做query正文当正样本doc用户负反馈可收集部分对抗负样本LLM标注抽样一些高频query搜索系统的top k条结果使用LLM通过一定prompt让大模型对query和doc打分04分把打分高的当正样本打分低的当负样本打分中等的不用或者人工介入review确认4 训练采用官方工具qwen3-rerank-trainer内置4种排序损失支持LoRA/全量训练。安装命令pip install ”qwen3-rerank-trainer[full]”Lora微调qwen3-rerank-train \ --model Qwen/Qwen3-Reranker-0.6B \ --data train_rerank.jsonl \ --output ./output_rerank_lora \ --lora \ --lora-r 8 \ --lora-alpha 16 \ --n-docs 8 \ --n-pos 1 \ --loss-type lambda_loss \ --lambda-metric ndcg \ --epoch 3 \ --lr 2e-5 \ --bf16全量重训qwen3-rerank-train \ --model Qwen/Qwen3-Reranker-0.6B \ --data big_train.jsonl \ --output ./output_full_train \ --loss-type infonce \ --epoch 5 --lr 6e-6 \ --deepspeed ds_zero2.json学AI大模型的正确顺序千万不要搞错了2026年AI风口已来各行各业的AI渗透肉眼可见超多公司要么转型做AI相关产品要么高薪挖AI技术人才机遇直接摆在眼前有往AI方向发展或者本身有后端编程基础的朋友直接冲AI大模型应用开发转岗超合适就算暂时不打算转岗了解大模型、RAG、Prompt、Agent这些热门概念能上手做简单项目也绝对是求职加分王给大家整理了超全最新的AI大模型应用开发学习清单和资料手把手帮你快速入门学习路线:✅大模型基础认知—大模型核心原理、发展历程、主流模型GPT、文心一言等特点解析✅核心技术模块—RAG检索增强生成、Prompt工程实战、Agent智能体开发逻辑✅开发基础能力—Python进阶、API接口调用、大模型开发框架LangChain等实操✅应用场景开发—智能问答系统、企业知识库、AIGC内容生成工具、行业定制化大模型应用✅项目落地流程—需求拆解、技术选型、模型调优、测试上线、运维迭代✅面试求职冲刺—岗位JD解析、简历AI项目包装、高频面试题汇总、模拟面经以上6大模块看似清晰好上手实则每个部分都有扎实的核心内容需要吃透我把大模型的学习全流程已经整理好了抓住AI时代风口轻松解锁职业新可能希望大家都能把握机遇实现薪资/职业跃迁这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】
