来源:互联网 更新时间:2026-07-29 16:17
7月27日晚,AI圈发生了一件大事。月之暗面Kimi正式开放了K3的模型权重、技术报告和关键Infra技术。
几乎在同一时间,Anthropic的联合创始人兼CEO Dario Amodei也发了一篇文章,回应了近期围绕开放权重模型的讨论,明确表示“Anthropic公司从未主张禁止开放权重模型”。

“不具备危险能力的开放权重模型是一种公共产品:除运行模型所需的算力成本外,它们不需要支付其他费用,同时能够为企业、开发者和研究人员创造价值。” Amodei在文中这样说道。
这份声明的背景很有意思。Kimi K3发布后,海外出现了一些针对特定来源开放权重模型实施使用限制的讨论。与此同时,多家科技企业公开表达了对开放权重生态的支持,也有观点认为,部分闭源模型公司(比如Anthropic)可能出于商业竞争考虑,在推动相关限制政策的实施。

坦白说,K3开源和Amodei的声明这两条线放在一起看,能很明显地感受到,随着模型能力越来越强,开闭源之争也越来越激烈,而开源的趋势,似乎很难抵挡。
在回应中,Amodei依然从安全角度表达了他的担忧。
他最核心的担忧,是其他国家可能会开发出比美国更强大的AI模型,并利用这些模型获得永久性的军事优势,或者对本国人民实施极其严密的压制。他表示,这种担忧在美国政府内部已经得到了广泛认同。在这种情况下,模型是否以开放权重形式发布其实并不重要,它们是否被美国企业使用当然也不重要。
其次,他担心强大的AI模型可能会被滥用于发动网络攻击或生物攻击,也可能存在严重的对齐问题。“开放权重模型确实可能比闭源模型带来更高风险,因为很难为其设置有效的安全护栏,也很难监控其使用情况;而且模型权重一旦发布,就无法收回。”Amodei补充道,“但是,禁止美国企业使用这些模型并不能解决这一风险,因为恶意行为者本来就不太可能是合法经营的美国企业。这样的禁令或许可以保护美国AI公司免受竞争,但这从来不是我的目标。”
之后,Amodei给出了三个他之前反复强调过的主张措施:
第一,不向中国出售高性能芯片或芯片制造设备,同时打击通过其他规避手段获取这些芯片的行为。Amodei的原话是,“中国国内的先进芯片产能有限,因此在Scaling Laws的作用下,如果无法获得美国芯片,中国就无法训练出比美国更强大的模型。”
第二,打击工业规模的蒸馏活动。“它可以让中国利用有限的芯片资源训练出远超正常水平的模型,从而部分绕过禁令。”Amodei强调,“我们应当通过政策干预来遏制这种行为。全面禁止开放权重模型既不是正确的解决办法,也不是我们曾经主张过的措施。”
第三,所有能力足够强的模型,无论开放还是闭源,都应接受强制性安全测试。他强调,要使安全测试真正有效,就必须在全球范围内执行。
可以看到,他的针对性指向其实没变,不过是多次减少了对开源模型的“攻击”。而这次Amodei公开正式回应的另一个原因,是前几天黄仁勋转发的《Open Weights and American AI Leadership(开放权重与美国AI领导力)》公开信带来的海外舆论压力。
7月24日,黄仁勋在X上发布首条帖子并转发了该公开信,呼吁美国政府不要限制可下载的AI模型。信中表示,开放权重能够降低供应商锁定风险,提升企业对模型、数据和基础设施的控制权。公开信最初由25家公司签署,随后迅速扩至50家,新增签署方包括OpenAI、Google、AMD、Cisco、Cloudflare、GitHub、Block和Ollama等,截至发稿,已经有77家企业签署。

签署方在一天内翻倍,这反映出开放权重正在快速成为美国AI政策讨论的核心议题。
值得注意的是,Anthropic与Amazon仍未出现在签署名单中。Amazon是Anthropic最大的投资方之一,Anthropic也使用Amazon Trainium芯片训练和部署模型。两家公司尚未解释缺席原因。
Amodei表示自己对公开信的很多内容表示认同:“开放权重扩大了人们参与AI经济的机会,至少在部分应用场景中增强了竞争,也赋予客户更大的控制权。对于蒸馏的担忧,应当通过有针对性的法律和商业框架来解决,也就是我上面提到的措施。”
但他也称自己并不认同公开信中的另外一些说法,例如开放权重模型必然更有利于开发安全防护措施,或者广泛开放模型能力必然会给防御者带来比攻击者更大的帮助。“在我看来,相反的结果至少同样有可能发生。”
这依然是很耳熟的话术。Amodei这次回应,更多还是为了安抚美国国内的舆论情绪。
值得注意的是,公开信提到的这种“开放”主要集中在模型层。组织公开信的英伟达仍掌握专有的CUDA软件生态,微软也在Azure上销售闭源模型,多数签署方所倡导的“开放”并未触及自身最核心的竞争壁垒。
对于企业而言,开放权重首先意味着可以下载、检查和重新训练模型,也可以将数据保留在自有基础设施中。但模型能否真正运行,仍取决于芯片供应、算力成本和部署能力;模型开放也无法解决智能体授权、版本追踪和审计等问题。
即使企业能够读取模型权重,也无法仅凭模型本身证明某个智能体是否获得授权,或确认不同地区运行的模型是否与安全团队批准的版本一致。因此,开放权重解决的是供应商依赖问题的一部分,而不是完整的AI治理问题。
之前,海外就一直担心国内有对标Fable 5的开源模型出现,K3的发布加剧了这种担忧。而随着K3技术报告的发布,我们也可以看到T级模型开源可能带来的影响。
“现在,每个人都可以下载并部署Kimi K3模型——无论是用于内部研发,还是嵌入到面向终端用户的产品中,均可自由使用。”月之暗面官宣文中的这句话激发了网友们的热情。不过,也有网友发现,到了K3这种级别模型的开源,个人部署基本不太可能了。
截至目前,Kimi K3能够完成公开验证的最低部署配置,是一台搭载8张AMD MI355X加速卡的服务器,整机成本预计约170万至240万元。但这一配置解决的只是“把模型加载起来”,距离具备可接受速度、并发能力和长上下文支持的生产级服务仍有明显差距。
知乎答主“平凡”推测,按照Kimi官方技术文章提出的64张以上加速卡部署建议,真正面向商业服务的硬件投入可能达到千万元级别。这意味着,2.8T参数规模的K3基本已经脱离个人本地部署范畴,对绝大多数普通企业而言,自建推理集群的经济性也十分有限,直接调用API可能仍是更现实的选择。
具体来看,Kimi K3模型文件约为1.5609TB,总参数量达到2.8T,每次生成仅激活约104B参数,模型权重采用MXFP4格式。尽管其采用混合专家架构,单次推理不需要调用全部参数,但完整模型权重、KV缓存和运行状态仍需要占据极大的显存空间。
根据AMD披露的测试结果,单张MI355X配备288GB HBM显存,8张卡合计拥有2.304TB显存,能够容纳K3的模型权重及必要运行数据。AMD已经验证了8×MI355X、张量并行度TP8的部署方案,vLLM也将8张MI355X或8张B300列为目前相对容易部署K3的配置。值得注意的是,AMD目前公布的首日测试最大上下文仅为16K,尚未披露生成速度、首Token延迟、吞吐量和并发能力等关键指标。
“像之前买一台512GB的Mac Studio,就可以部署一个几百B的大模型,那个时代已经一去不返了。那个级别的模型,在现在已经不够看了。”该答主总结道。另外,对于K3这样的2.8T模型,即使权重已经采用低精度格式,普通工作站的内存容量、带宽和计算能力也无法满足部署需求。
答主大概列出了四种方案,从低到高基本上是刚刚能跑,以及勉强能够实现正常使用。

其中,8张MI355X是目前公开配置中成本最低、验证程度最高的方案。由于MI355X整机没有统一公开报价,市场只能通过服务器和单卡报价进行估算。Supermicro支持MI350系列的8卡服务器起价约24.5万美元,结合MI355X单卡约2.5万美元的市场估值,一套完整8卡服务器成本预计在25万至35万美元之间,折合软妹币约170万至240万元。
其他方案的成本更高。16张H200合计显存约2.256TB,理论上能够容纳模型,但通常需要跨两台服务器部署,硬件成本预计约435万-570万元;16张B200合计显存约2.88TB,由于单台8卡B200服务器显存仍不足,需要两台服务器,成本约540万-680万元;24张H100合计显存约1.92TB,虽然勉强能够放下模型,但运行余量较小,跨服务器通信也会成为明显瓶颈,若采用云服务,全年租赁成本可能超过870万元。
即使是成本最低的8×MI355X方案,也很难保证K3具备理想的实际使用体验。K3接近3T参数规模,每生成一个Token都需要在大量模型权重和专家模块之间调度数据,单机8卡虽然能够完成加载,但吞吐速度、并发能力和长上下文性能可能受到明显限制。对于用户而言,“能够加载模型”和“能够提供生产级服务”是两个完全不同的概念。
K3的架构进一步放大了集群通信的重要性。该模型拥有896个专家,每个Token会从中选择16个专家参与计算。当不同专家被分配到不同GPU时,系统需要频繁在加速卡之间传输激活数据。随着并发量和上下文长度增加,GPU之间的互联带宽将直接影响Token生成速度。

因此,Kimi官方技术文章并不建议大型服务仅依靠一台8卡服务器,而是建议使用64张以上、位于同一个高速互联域内的加速卡。按照64张MI355X计算,部署K3需要8台八卡服务器,仅硬件投入预计约1360万至1900万元。若使用云资源,按照Oracle相对较低的实例价格估算,全年成本约409万元;按照Vultr现有价格计算,全年成本可能达到986万元。
此外,64张MI355X集群的整体电力需求可能接近100kW。如果全年持续运行,仅电费就可能接近百万元,这还没有计入机房、散热、网络、存储、运维人员和冗余设备等成本。
T级开放权重模型的出现,也正在改变“开源模型能够普惠本地部署”的传统认知。
开放权重意味着开发者可以下载、研究和修改模型,却不意味着个人和中小企业具备运行这些模型的硬件条件。对于普通个人用户而言,未来更多只能分析模型架构、研究技术报告,或使用经过大幅蒸馏和量化的小型版本,而无法直接运行完整模型。
即使对一般企业而言,本地部署K3这样的模型也很难体现成本优势。除非企业拥有长期、稳定且规模极大的推理需求,并具备成熟的集群调度和模型工程能力,否则千万级硬件投入、持续电力成本和运维负担,可能不如直接采购API服务来的划算。
答主“平凡”总结称,K3这类模型更适合大型云服务商、头部互联网企业、科研机构,甚至希望建设自主AI基础设施的国家级项目。例如,一些缺乏自主基础模型能力的国家或大型组织,可以集中采购数千乃至上万张加速卡,以K3等开放权重模型为基座进行微调、后训练和本地化部署,从而建立自己的模型服务体系。
而这背后带来的不止是个别企业利润,而是会鼓励更多公司和开发者使用K3,进而围绕该模型构建起一个完整的工具和基础设施生态系统。随着时间的推移,这有助于模型成为“事实上的标准”,这也是一些海外专家和企业担心的点之一。
最后,值得提醒的是,月之暗面公布的Kimi K3许可证显示,个人开发者和普通企业可以免费使用、部署、微调及商业化Kimi K3,也可以基于模型开发衍生产品,但需保留版权和许可证声明。
另外,许可证同时对大型商业使用设置限制。如果企业通过API等方式对外提供Kimi K3推理或微调服务,且企业及关联方任意连续12个月总收入超过2000万美元,需提前与月之暗面另行签署协议。此外,如果使用Kimi K3的商业产品月活超过1亿,或月收入超过2000万美元,必须在产品界面显著标注“Kimi K3”。企业内部使用以及通过官方产品或认证合作伙伴调用,不受上述限制。
https://www.anthropic.com/news/position-open-weights-models
https://images.nvidia.com/pdf/Open-Weights-and-American-AI-Leadership.pdf
https://github.com/MoonshotAI/Kimi-K3/blob/main/k3_tech_report.pdf
https://www.zhihu.com/question/2065214142915654338
摩托车活塞环性能如何
ThinkBook系列最新价格全解析:2026年选购避坑与实时询价指南
Ondo将于今日上线股票永续合约
暗黑4S14野蛮人终局BD攻略
区块链OTC交易所有哪几家比较正规?
货拉拉如何查看历史订单 货拉拉往期行程轨迹查询【功能教学】
Binance新增15种bStocks代币化证券为杠杆抵押资产
Meme币DOGS今晚上线!开局就解锁91%代币是否带来风险?
忍者必须死3极刃血影角色介绍
晶核艾尔莎角色盘点 晶核艾尔莎强度分析与实战表现
赵云与阿斗神兵符使用教程 神兵符怎么使用
剑侠世界3雪峰论剑怎么打-剑侠世界3雪峰论剑打法介绍
余姚的路虎4s店在哪个位置
彩云天气怎么看分钟级降雨预报 彩云天气精准预报方法【技巧】
五千元以下的笔记本几乎消失!经销商:至少一年看不到涨价尽头
Intel喜讯连连:18A工艺良率提升到85%、CPU将涨价15%
华为Mate 70系列首发的红枫镜头下放至千元档:全员普及原色影像
今日小鸡庄园答案2026.7.2
美债股纳斯达克首盘暴跌38%且加密代理交易解体,AVAX价格何去何从?
男生头像配网名可爱(精选100个)
手机号码测吉凶
本站所有软件,都由网友上传,如有侵犯你的版权,请发邮件haolingcc@hotmail.com 联系删除。 版权所有 Copyright@2012-2013 haoling.cc