来源:互联网 更新时间:2026-07-31 14:12
Kimi K3开源后,业界迎来了首个完整开放权重的3T级别模型——换句话说,这是目前全球参数规模最大的开源模型。过去三年,全球AI大模型领域一个显著的变化是,中国模型厂商在开源社区生态中占据了越来越大的优势,甚至超过美国同行。K3的出现,进一步放大了这一效应。

从官方介绍看,K3整体表现虽然仍落后于最强的闭源模型Claude Fable 5和GPT-5.6 Sol,但在整套评测中展现出了前沿水平,稳定超过了其他所有模型。这个成绩本身就足够说明问题。相比Kimi K2,K3的总参数量增长了167%,激活参数增长220%,上下文长度从128K扩展至1M,提升了8倍。理论上,计算复杂度会按平方数级别增长,但K3硬是扛了下来。
之所以能把参数量堆到2.8万亿,同时实现2.5倍的扩展效率(相同计算量下更高的模型能力),核心在于K3对传统Transformer架构做了两项底层优化:KDA(Kimi Delta Attention/混合线性注意力机制)和Attention Residuals(注意力残差)。前者能把不断增长的KV Cache压进固定大小的矩阵状态,后者则有效减少模型训练中的信息衰减和梯度消失问题,保持信息流顺畅。此外,K3还利用Stable LatentMoE(稳定隐空间混合专家系统)、MoonEP(底层通信库)、FlashKDA(高性能计算算子)等技术,对推理计算成本、通信能力以及计算效率等方面进行了大幅优化。
登陆Hugging Face后,K3在30分钟内以超过4000个赞登顶趋势榜。Hugging Face CEO Clem Delangue发文称,这是迄今为止最快的发布增长速度。OpenAI总裁格雷格·布罗克曼在近期一次受访中谈及K3,称这是一款毋庸置疑具有竞争力的新AI模型,并根据相关评估透露,中国在模型开发方面与美国的差距可能仅剩4个月左右。马斯克也曾公开称赞K3架构底层的《Attention Residuals》论文研究“令人印象深刻”。
除了开源本身带来的影响力,一名AI大模型研发者对界面新闻记者表示,K3开源更直接的冲击在于商业层面。结合更低的价格与逐渐缩小的模型差距,中国开源模型从根本上影响了OpenAI和Anthropic等闭源模型厂商对API定价权的主导,这背后涉及大量潜在商业利益。在K3出现之前,另一个轰动一时的闭源模型是Anthropic的Fable 5。该模型没有官方公布的准确参数,但业界普遍猜测这是一个5T-10T级别的模型。而Fable 5和K3的爆火,无一例外地打消了业界此前存在已久的疑虑:继续拉高模型参数是否还有意义?
前述研发人员指出,模型厂商要留在牌桌上,除了继续“Scaling Up”(扩大规模)几乎别无选择。至少从目前来看,RL(强化学习)等后训练技巧主要作用还是“雕花”,基座模型越好,后训练的起点才会越高。中国模型厂商已经在陆续跟进2T参数以上模型研发。阿里于7月19日发布了Qwen3.8 Max预览版,一款参数规模高达2.4万亿的多模态模型;7月初,有报道称MiniMax正在研发一款2.7万亿参数的新一代大语言模型,内部称为“M3 Pro”。
两款模型据悉都上线即开源。事实上,这已成为中国模型厂商扩大技术影响力的重要途径。百度今年1月正式上线的文心5.0,在官方介绍中即为2.4T参数的模型,或许是国内最早达成这一规模的厂商,但这款模型在国内外并未激起太大讨论声量。一方面,该模型采用超稀疏混合专家架构,激活参数比例小于3%,即约70B。相比之下,K3激活参数约为104B。某种程度上,激活参数规模大小也会影响模型表现。另一方面,尽管文心4.5在去年9月加入开源生态,但文心5.0仍是一款闭源模型。有行业人士指出,这是一种基础模型开源、旗舰模型闭源的协同路线,或许意在达成前者引流、后者转化的技术普惠与商业利益平衡。但中国模型的开源生态正逐渐强大,文心5.0的闭源意味着大量开发者无法自行部署,也无法通过观察研究其内部结构做出更多技术分析,一定程度上失去了来自极客群体的声量,而这对于模型当前的影响力已愈发重要。
对于更大规模参数模型的追赶,除了一系列软硬件层面的综合性挑战,摆在厂商面前更直观的困境是算力紧缺。据行业人士分析,单从部署而言,K3就需要一台8卡B300服务器,训练则更需要顶级AI显卡的万卡级别集群。仅在上线第二日,Kimi便紧急发布了算力紧缺的提示,并暂停了会员开放。这一点上,创业公司在大厂面前再次显现出劣势。一名智算中心人士表示,目前其大部分算力已被头部大厂这样的大客户锁定,对于以Kimi为代表的创业公司而言,这意味着其购买能力是滞后的,即便遇到K3需求爆发这样的情形也难以及时补充。另一家云厂商人士透露,其客户构成中,前两大客户分别为头部硬件大厂和互联网大厂,其他模型厂商合计月流水占比不及其中任意一家。并且,由于顶级显卡的稀缺性,云厂商也面临客户订单交付延迟的困境,其第一大客户的千台订单上半年仅交付10%。
即便如此,模型厂商推进更优模型并开源的目标,某种程度上也是紧迫的。在Kimi K3开源几乎同一周,黄仁勋联合微软、Meta、IBM、英特尔等25家科技巨头发表公开信支持开源生态,OpenAI和谷歌随即补签加入。或出于舆论与商业的双重压力,在技术封锁立场上向来坚定的Anthropic CEO Dario Amodei,也于近日公开发表声明称,Anthropic公司从未主张禁止开放权重模型。在更多有分量的号召下,全球模型开源的局面愈发势不可挡。从技术普惠的角度来看这无疑是积极的,但对企业而言,从技术到成本,全员开源的局面只会让其在用户面前更加透明,届时突破与生存并不会比今天更加容易。
黄金价格不断创新高!黄金稳定币XAU、PAXG市值达11亿美元
新浪机器学习热点小时报丨2026年07月25日18时_今日实时机器学习热点速递
CC币价格预测(2026-2035):Canton币今日价格走势+长期价格预测
新浪互联网热点小时报丨2026年07月26日16时_今日实时互联网热点速递
腾讯ima怎么创建共享知识库?
今日比特币暴涨分析:Metaplanet的比特币BTC投资推动股价上涨17%
蚂蚁庄园今日答案7月21日(今日已更新) 蚂蚁庄园今天正确答案是什么呢
腾讯ima怎么把微信内容一键导入知识库?
区块链OTC交易所有哪几家比较正规?
2026热门直线加速赛车手游推荐:高人气、爽快加速体验的精品榜单
kimi提示词专家使用方法新手指南
Intel喜讯连连:18A工艺良率提升到85%、CPU将涨价15%
原神霜月三处月灵龛具体位置汇总
《幻兽帕鲁》不触发通缉捕捉传说商人方法
Windy卫星云图怎么看?云层变化识别技巧
新浪人工智能热点小时报丨2026年07月30日18时_今日实时人工智能热点速递
为什么推特KOL都在BRC20赚钱 我一冲就亏?
抖音怎么取消申请退货退款?抖音上取消退货怎么操作
一加手机如何设置三指长按屏幕局部截图
合集38个项目筹集5.406亿美元 Figure融资2亿
手机号码测吉凶
本站所有软件,都由网友上传,如有侵犯你的版权,请发邮件haolingcc@hotmail.com 联系删除。 版权所有 Copyright@2012-2013 haoling.cc