亚博买球app将推理资本压缩至dense模子的1/10-亚博全站APP登录 亚博登录网址|首页
智东西9月26日报说念，蚂蚁百灵团队近日持重开源两款全新搀杂线性推理模子——Ring-mini-linear-2.0与Ring-flash-linear-2.0。比较前代，这一轮升级在不绝高稀零MoE结构的基础上，引入了搀杂线性提防力（Linear Attention）机制，专为长文本、低资本推理等场景提效而联想。
脚下，大模子动手的确走进哄骗场景，推理资本却成了横在企业眼前的全部坎。一边是用户但愿更快、更久地交互，另一边却是又贵又慢的模子部署推行。在不阵一火后果的前提下落本提效，也曾成了各家模子团队绕不开的问题。
据蚂蚁团队的实测数据，在保抓SOTA精度的前提下，本轮开源的Ring-linear系列模子最大陡立文长度512k，将推理资本压缩至dense模子的1/10，比较原有Ring模子推理资本镌汰50%以上，而况在高并发解码任务中婉曲量可达Qwen3-8B的12倍、Qwen3-32B的10倍以上。
此外，蚂蚁团队还引入了紧密化的推理优化交融算子、RL考验对都机制等系统级器具，直指刻下推理资本与考验踏实性的要害瓶颈。
除了推理效劳的权贵提高，Ring-linear系列模子在多项圭表评测中的进展也庇荫淡漠，尤其在数学推理、结构代码生成、通用讲话一语气与写稿任务中，展现出与主流大模子比较具有竞争力的准确率。实测扫尾包括：
Ring-mini-linear-2.0：
Ring-flash-linear-2.0：
当今，这套模子现已同步上线多平台，开源地址如下：
魔搭社区：https://modelscope.cn/models/inclusionAl/Ring-flash-linear-2.0/
GitHub：https://github.com/inclusionAI/Ring-V2/tree/main/hybrid_linear
Hugging Face：https://huggingface.co/inclusionAl/Ring-flash-linear-2.0
一、搀杂线性架构重构Attention筹绘制，推理资本再砍一半这次开源的Ring-linear系列模子，构建于蚂蚁自研的Ring-mini-2.0与Ring-flash-2.0 MoE基座之上，最大特质是将骨干Attention模块替换为自研线性Attention交融模块，辅以一丝圭表Attention，酿成高效搀杂提防力结构。
以Ring-flash-linear为例，其结构中87.5%的层接管线性Attention（28层线性+4层圭表），纠合旋转位置编码（RoPE）与分组RMSNorm等考验优化计策。这种高占比的线性架构，使得合座筹画复杂度类似线性，在长陡立文条款下，权贵镌汰考验和推理的筹画资本。
同期，该模子保抓了1/32大师激活率的超稀零MoE结构，通过MTP（Mixture Token Parallel）与全局负载平衡联想，完结“以6.1B参数模拟40B dense模子”的后果。在保抓性能的前提下，大幅镌汰激活参数与筹画需求。
▲Ring-linear-2.0系列模子架构暗意图，骨干结构接管线性Attention与稀零MoE搀杂联想，最大撑抓512K陡立文长度，并引入MTP多token忖度考验主义。
在真实业务场景中，长文本处理、多轮交互世俗，大模子推理速率慢、资本高成为了其上线部署哄骗的最大断绝。正因如斯，如安在不阵一火后果的前提下落本提效，成了蚂蚁团队重心探索的标的，而线性Attention与稀零MoE纠合，恰是他们给出的谜底之一。
二、推理婉曲大幅跨越，Prefill、Decode双线提速当大模子的确部署起来之后，推理婉曲才是决定体验和资本的“临门一脚”。尤其在大模子插足多轮交互、长陡立文等复杂场景后，单纯追求更大的参数领域，无意能换来更好的后果，反而可能因婉曲不及拖慢反映、推高资本。因此，Ring-linear系列在推感性能上的进展，成为其能否落地的遑急斟酌。
在推感性能方面，蚂蚁团队提供了留意实测扫尾，Ring-linear系列模子在长陡立文与高并发生成场景中具备显豁上风：
▲Ring-mini-linear-2.0 Prefill婉曲(batch size = 1)
▲Ring-mini-linear-2.0 Decode婉曲(batch size = 64)
Ring-mini-linear-2.0在Prefill阶段（陡立文256k+）婉曲量为Qwen3-8B的12倍以上；在Decode阶段，生成长度32k+时婉曲量相似为Qwen3-8B的12倍以上。
▲Ring-flash-linear-2.0 Prefill婉曲(batch size = 1)
▲Ring-flash-linear-2.0 Decode婉曲 (batch size = 64)
Ring-flash-linear-2.0则在对比Qwen3-32B时展现出凸起上风——陡立文32k以上，Prefill阶段婉曲量近5倍；生成长度64k时，Decode阶段面对10倍婉曲上风。这些优化均获利于蚂蚁团队对推理框架（SGLang/vLLM v1）的深度适配与线性算子的定制化加快。
测试露出，优化后的triton kernel最高加快比可达2.73倍（prefill单样本任务），在典型decode场景中也好像达到2.57倍，并撑抓批量prefill与搀杂推理花样，灵验搪塞真实部署场景中的多并发挑战。
▲Ring-linear系列在线性Attention算子推理任务中的加快进展
这些优化奠定了Ring-linear系列模子在推理层面的基础。而要将模子的确推动RL考验、提高弥远进展，还得处理另一个要害问题：训推一致性。
三、训推一致性迷惑RL瓶颈，撑抓长输出下的胜仗采样强化学习（RL）阶段的踏实性问题，频频开始于考验-推理（训推）完结不一致。尤其在MoE模子中，组件如RMSNorm、RoPE、Attention、KVCache、softmax等在不同框架间存在精度/轨则/后处理互异，会严重打扰on-policy计策更新，导致reward波动大、考验上限低。
为此，蚂蚁团队从框架底层修正训推逻辑互异，提倡三项矫正：
1、算子级一致性：考验与推理接管相易模块完结；
2、精度长入：遑急模块如KVCache与lm_head长入接管fp32；
3、细目性保险：MOE大师选拔、token加仁和序引入踏实排序与固定轨则。
实测露出，迷惑要害模块后RL reward权贵提高，并初度完结RL阶段胜仗使用rollout probs而非training probs，不仅省俭重前向筹画时辰，还提高了考验效劳与最终薪金。
▲对比使用rollout probs与 raining probs 进行PPO clip考验的后果。左图为考验奖励（Reward）变化趋势，右图为训推概率互异十足值大于0.8的token占比，对都后训推互异权贵镌汰。
这一系列迷惑，为MoE模子走向强化学习阶段扫清了落地贫苦，也让长输出任务具备了踏实考验和高质地采样的基础才调。浅陋来说，即是模子在考验时学会的“计策”，好像在推理时原样推行出来。一朝训推一致，模子就确切学会了“方案”。
四、实测：结构代码生成清晰完好，动画逻辑具备通用性蚂蚁团队也围绕Ring-linear系列模子进行了多组结构化代码生成的实测，任务涵盖图形动画摒弃、章程逻辑完结与游戏基础玩法复现。Ring-linear系列模子均可阐明当然讲话指示输出结构清晰、可胜仗运行的Python代码，展示出精采的代码一语气与生成才调。
实测任务包括：
1、数独游戏web代码生成
指示：“编写一个数独游戏的web哄骗”
模子生成代码好像快速完结一个bug free的数独游戏哄骗，包括正确数字运行化、难易进度选拔、数字填写是否正确教导等中枢功能。
2、坦克大战
指示：“Use Python to create a simplified tank battle game. Users use the up, down, left, and right keys on the keyboard to control the free movement of a tank. The spacebar fires bullets to defeat enemy tanks in the game scene. The scene contains five freely moving enemy tanks, which fire bull
ets in the direction of the current tank’s movement. Each time an enemy tank is defeated, one point is awarded, and a new enemy tank is randomly generated. The game ends when the user’s tank is hit by an enemy tank.”
输出Python代码笼罩坦克位置的运行化、标的自动摒弃、积分更新等完好逻辑模块，好像自主结合坦克畅通和射击。
3、股票系统哄骗
指示：“请生成一个模拟股票往复软件的页面，数据不错是飞快生成的，页面包含了五部分部分：
1. 日内的秒级数据，这部分需要一秒更新一次，按照线的状貌进行展示。
2. 日k线，这部分不错展示最近60天的ohlc的数据，使用烛炬图进行展示，涨了的是红色，跌了的是绿色。3. 及时的成交量，亦然一秒更新一次，推行数字即可。4. 日线的成交量数据，用柱状图深入。5. 公司的先容，不错飞快生成一些。需要提防的点：
1. 请使用canvas绘制多样弧线和烛炬图， 然则需要提防绘制图像的清晰度，需要为高清设备进行准备；2. 需要不错阐明窗口的大小自行更动canvas窗口的大小；3. 使用原生的js和html5属性不要使用稀罕的库；4. 请保证飞快生成的价钱数据都是不错使用的。”
模子可生成完好的模拟股票往复软件，涵盖往复价钱、数目展示、趋势分析等中枢功能。同期生成页面展示精采无比，有较强的指示撤职才调。
合座来看，Ring-linear系列模子在结构化代码生成任务中的进展踏实，具备精采的语义融会与逻辑组织才调，好像笼罩多类Python、Web编程指示，适用于可视化交互、袖珍逻辑游戏等场景的快速原型生成。
结语：搀杂线性架组成大模子新风口，百灵团队再怒放一扇门跟着推理大模子越来越卷“长推理”“低资本”，Test Time Scaling正在变成新一轮工夫追求的焦点。
蚂蚁百灵团队这轮开源的Ring-linear系列模子，结构上“作念减法”，用搀杂线性机制精简筹画旅途；推理上“作念乘法”，依靠稀零MoE和系统级加快，把效劳拉满。不仅仅跑得快、用得省，更在RL考验这块最难啃的骨头上，给出了全新解法。
跟着更多推理场景动手祥和高并发生成与超长陡立文亚博买球app，这一轮开源有望推动搀杂线性架组成为下一阶段主流寇地的要害标的之一。