来源:互联网 更新时间:2026-06-30 13:32
6月30日,美团放出大招,正式发布新一代万亿参数大模型LongCat-2.0,并宣布对外开源。这大概是目前国产算力赛道中最值得关注的一个信号。
LongCat-2.0号称是业界首个在五万卡国产算力集群上完成全流程训练与推理的万亿参数模型。总参数达到了1.6T,平均激活约48B,动态范围在33B到56B之间。从零开始预训练,原生支持100万Token的超长上下文——一上来就把门槛拉得很高。
其实在正式版发布之前,LongCat-2.0的预览版就已经通过OpenRouter平台和longcat.ai向全球开发者开放了调用。到目前为止,这款模型已经冲进了OpenRouter全球大模型调用量的前三名,月调用量排在Hermes、Claude Code和OpenClaw之后——这背后显然是开发者用脚投票的结果。
先说一下预训练数据量:超过30T tokens,覆盖中文、英文、多语言、代码等各种类型。而真正有挑战性的是——如何在万卡级别的国产算力集群上,把训练这件事从头到尾跑稳、跑通、跑快。
那么,它是怎么做到的?LongCat团队从稳定性、正确性和效率三方面,攻克了国产算力训练中的一堆硬骨头:
- 在稳定性方面,通过HCCL异常处理、弹性扩缩卡和自动故障恢复,把月均日故障率降低了70%以上;
- 在正确性方面,自研了确定性算子、Bitwise一致性验证和参数检测,保证训练结果可靠,并在此基础上改进了关键模块的计算精度,优化了Reduce逻辑;
- 在效率方面,通过流水线调度、显存优化和算子级控核,训练MFU直接提升了1.5倍。
最终,LongCat实现了稳态日吞吐超过1T tokens/天,完成了万亿参数MoE模型在国产算力上的稳定训练——这事儿在国内之前没人做到过。
再来看看推理端。LongCat-2.0围绕模型、算子、框架做了协同优化:
- 利用大规模专家并行聚合访存带宽,支撑万亿参数MoE模型的低延迟解码;
- 把“零计算专家”机制融入到专家并行通信流程里,让路由到零专家的token真正避免不必要的传输与计算;
- 重点优化了通信、Attention、GEMM等核心算子的调度,结合提前下发与权重预取等框架机制,进一步压低推理链路中的等待开销。
另一个值得说的技术点是LongCat Sparse Attention(LSA)——稀疏注意力机制。处理长文本的时候,它不再逐字逐句地看,而是智能筛选关键信息,把计算量从平方级降到了线性级。所以即使在100万Token的超长上下文中,模型依然能保持信息定位与理解能力,而不是“读到后面忘了前面”。
代码任务中,不同token的复杂度差异其实非常大:定义变量名和推导递归算法对算力的需求完全不同。LongCat-2.0通过零计算专家实现了token级的动态激活(33B~56B),简单token不消耗算力,复杂token自动获得更多计算资源——高效但又不失精准。
更重要的是,LongCat-2.0采用了MOPD架构,融合了Agent、Reasoning、Interaction三组专家能力——Agent Experts主攻工具调用与自主纠错,Reasoning Experts深耕数学与STEM推理,Interaction Experts优化指令遵循与交互体验。推理时由门控网络根据任务类型动态调度最擅长的专家,而不是简单地把参数揉在一起。这个设计直接决定了它在编程、推理、交互等多个维度上的表现都很能打。
综合评测结果也印证了这一点——LongCat-2.0在Code和General Agent场景中表现亮眼:
在编程能力方面:
- SWE-bench Pro(考察深层工程能力)得分59.5,领先Gemini 3.1 Pro(54.2)、GPT-5.5(58.6)和Claude Opus 4.6(57.3);
- SWE-bench Multilingual得分77.3,和Claude Opus 4.6(77.8)处于同一水平线;
- 真实终端指令交互评测Terminal-Bench 2.1得分70.8,展现了在真实运维与开发终端任务中的稳定执行与纠错能力。
在真实办公场景的复杂任务处理方面:
- 搜索智能体评测集RWSearch得分78.8;
- 生产力场景评测集FORTE得分73.2;
- BrowseComp得分79.9——均达到或接近前沿闭源模型的水准,对企业级Agent落地来说,这已经是实打实的可用级表现。
电视剧《小欢喜》剧情介绍
俄罗斯最大yandex入口外贸日报直达链接
二次元男生网名可爱(精选100个)
美好的简约网名男生(精选100个)
腾讯元宝怎么用来分析股票基金的基本面信息?
Bubbly无法连接服务器修复方法
盖乐世社区怎么删除帖子?盖乐世社区个人发布内容撤回步骤
欧易OKX官方网站直达入口 2026欧易官方App安卓版v7.1.0下载安装
新浪人工智能热点小时报丨2026年06月20日02时_今日实时人工智能热点速递
免费观看国外短视频的app有哪些 观看国外短视频的软件下载
问题:CIA币好不?Cia Protocol币今日上线:价格预测、代币经济学和未来潜力
国际贵金属走低,现货黄金价格跌0.49%
wallpaper壁纸声音怎么开启
倒数日怎么注册 倒数日账号注册教程
币安Binance交易所官方入口 币安App下载安装与实名注册教程
本田CR-V支持哪些手机互联功能
玉米名字网名大全男生(精选100个)
失落城堡2打完魔王后如何继续玩
短剧《退休金断供,女儿女婿慌了》剧情介绍
《梦幻西游》特殊鬼怪怎么抓-隐藏变异鬼应对要点
手机号码测吉凶
本站所有软件,都由网友上传,如有侵犯你的版权,请发邮件haolingcc@hotmail.com 联系删除。 版权所有 Copyright@2012-2013 haoling.cc