推理大模型开卷新方向，阿里开源长文本深度思考模型QwenLong-L1，登上HuggingFace今日热门论文第二。
除测评分数外，论文中还详细展示了一个金融文档推理的案例。传统模型容易被无关细节误导，而QwenLong-L1通过回溯和验证机制过滤干扰信息，正确整合关键数据。
任务要求：根据文档回答问题“将优先票据的发行成本与第一年的利息支出合并计算，总资本成本是多少？”
首先出场的基础模型DeepSeek-R1-Distill-Qwen-14B被文档中“自2011年10月15日起每半年支付一次利息”误导，根据不相关的时间和财务信息，错误计算了第一年的利息支付。
它在对不相关文档进行过度分析的循环中自我怀疑，最终尽了最大生成限制（10000 tokens），却没有给出最终答案。
相比之下，虽然QwenLong-L1-14B最初也表现出类似的分心，但它很快进行了有效的自我反思。通过及时验证和回溯，成功过滤掉了不相关的细节，得出了正确答案。
Qwen团队通过对比实验发现，长文本推理的强化学习训练存在两个“硬伤”：
一是训练效率低，传统强化学习（RL）方法在长文本中容易陷入局部最优，奖励收敛慢，限制了策略优化时的探索行为。
二是优化过程不稳定，长文本任务的输出长度更高、输入长度分布不均匀，导致策略更新时的方差被放大，训练过程中参数更新不稳定（如KL散度坐过山车）。
为此团队提出QwenLong-L1训练框架，核心是通过渐进式上下文扩展让模型逐步适应长文本推理。训练过程分为两阶段：
在开始强化学习之前，先用高质量的演示数据进行监督微调，让模型先具备基本的长文本理解能力、推理链生成能力和答案提取能力。
团队从DeepSeek-R1蒸馏了5.3K个高质量的问题-文档-答案三元组，确保模型有个稳定的起点。实验结果显示，这个”热身”阶段对后续的强化学习训练至关重要。
从短文本逐步过渡到长文本。例如，先训练模型处理2万token的文本，稳定后再增加到6万token，最后到128K。每个阶段只关注对应长度的文本。
此外还引入了难度感知的回溯采样机制。在进入下一阶段时，会保留前一阶段中最难的样本（平均准确率为零的那些），确保模型不会”忘记”如何处理困难案例。
QwenLong-L1在强化学习训练中采用混合奖励函数，结合了基于规则的验证和LLM-as-a-Judge。
规则验证也就是直接检查答案是否与标准答案完全一致（如数学题计算结果是否正确），再用另一个模型判断答案的语义是否正确（应对答案表述不同但意思一致的情况），两者结合避免单一规则过于严格或宽松
实验结果很有启发性。长文本SFT确实能带来2.6分的提升，比短文本SFT的效果更好。但是，如果在长文本SFT的基础上再做RL，提升幅度只有0.3分；而在短文本SFT基础上做RL，却能提升3.2分。
对此团队提出一个观点：SFT提供了一种经济的性能提升方式，而RL则是达到最优性能必不可少的。
所有模型都展现出明显的推理行为，尤其是信息定位行为出现频率最高，这证明了它在处理上下文依赖推理时的重要性；强化学习训练过程中，这些行为会逐渐增强，并与性能提升高度相关，表明强化学习能有效调整输出空间，优先保留有助于得出准确解答的推理模式虽然SFT模型也能学会这些行为，但这些表面上的行为模仿并没有带来实质性能提升，这揭示了SFT更关注表面模式匹配，而非实质推理能力的培养。
05月23日，中新教育｜李忠军任东北师范大学党委书记，鹿鼎注册登录平台，开元娱乐在线，三公牌游戏，银河网址y68
05月23日，房地产税收新政密集落地 居民购房信心进一步提振，AG亚游官网登录，AG登录网址是多少，德扑手机游戏，体育平台接口
05月23日，“三伏热浪走 初秋气象新” 我国最早秋粮开始收获，捕鱼游戏游戏，博狗官方网站网址，凯时网址登录，澳门皇冠四虎游戏网址
05月23日凝魂聚气、强基固本的基础工程(人民观点)澳门注册入口扑鱼达人爱游戏体育投注平台beat365手机版客户端
05月23日内蒙古破获一起特大贩毒案 收缴1.7公斤黄金岛注册金佰利菲律宾国际真人欧宝体育app官方怎么样扎金花游戏在线日上海交通大学发讣告悼念李政道：心通天宇，情系华夏九五至尊官网入口必赢网站国际跳棋线集团游戏平台的网址……
05月23日，比往年同期低5℃ 英国气温降至零下，火凤凰炸金花，网球体育188，华夏彩票平台登录，亚新app下载
05月23日，(新春走基层)裸眼3D震撼民众！重庆一商圈巨幕上演“巨龙腾飞贺新春”，888贵宾电子平台网址，新甫京娱乐app，扎金花平台娱乐，AG亚洲游戏平台
05月23日国家统计局：2023年全国房地产开发投资110913亿元金莎网络平台香港美高梅我娱乐网址久赢国际兴化麻将
05月23日，国家气候中心：未来十天影响中国冷空气整体势力不强 但活动频繁，真人刷反水，四川血战麻将现金版，爱游戏体育登录链接，锦利娱乐平台
05月23日，香港中华总商会举行第54届正副会长选举 蔡冠深获连任，开云在线官网，新美高梅，九州体育注册，乐享彩票购买平台
05月23日，“五一”假期海南机场出入境旅客同比增长4.6倍，云顶国际在线试玩，现金网游戏手机版，AG网址多少，炸金花最火的游戏
05月23日第二届海峡两岸交流融合月在深圳开幕英亚娱乐app金鼎国际平台是线凯发在线日公安机关大力整治地铁公交治安问题优德体育网址大全米乐体育平台官网炸金花app靠谱球盟会娱乐官网网址
05月23日中国驻英大使郑泽光：欢迎阿伯丁市同中国城市加强交往莆田新莆京官方网站捕鱼娱乐平台万博注册页面在哪找万博maxbetx官网
奔驰车主加塞砸引擎盖 保定交警回应，河南云台山“男女妲己”火了四部门解读“银发经济”，信息量很大！beplay游戏捷报比分网球即时比分leyu乐鱼平台客服新宝彩票旗下平台
《边水往事》豆瓣开分8.1，丁禹兮百分之五十理论包不内耗的中国内地奥运健儿代表团访港名单公布 含65名运动员、8名教练彩神彩票登录网址98娱乐彩票网登录入口新葡萄金彩票网TG买球安全吗
结束五年恋爱后妈妈的反应，莫斯科绅士各方合力助推我国财商素养教育更好落地金沙导航威尼斯网百老汇世界杯功率188足球比分
梁靖崑0比3遭杜达横扫，姚明问谷爱凌参不参加夏奥会中央民族乐团航天音乐会在海南文昌奏响英亚国际正规吗是真的吗金沙线上娱乐场官网新蒲京网址365平台官方网址多少
孙杨透露未来发展，再也不做美甲了剧作家谢丽泓：越剧《钱塘里》原型故事发生在我家龙岩棋牌乐游戏大厅赢钱的游戏有什么万博在线app下载澳门游戏官网网址
姚笛转行做导演，苏-57战机试飞员：喜欢吃所有中国菜湖南初雪从朋友圈“飘”进现实 公园企鹅出门“撒欢”欧冠赛程2019赛程表电玩游戏中心AG真人体育外围必威betway手机登录