来源:互联网 更新时间:2026-06-11 19:54
2026年6月11日,AMD主导开发的开源本地AI服务器方案Lemonade迎来了10.7版本。这次更新最让人眼前一亮的是——它终于完整支持NVIDIA GPU的本地AI推理了。具体来说,通过集成Llama.cpp的CUDA后端,Lemonade在Windows和Linux双平台上实现了原生适配,还内置了NVIDIA GPU自动识别功能。这意味着,无论你手里是AMD还是NVIDIA的硬件,都能在本地获得一致的AI运行体验。
回想一下,之前的Lemonade已经全面支持AMD Ryzen AI NPU、Radeon及Instinct系列GPU、x86_64架构CPU,以及Apple Metal GPU,唯独在NVIDIA GPU这块一直缺位。这次更新正好补上了这个关键缺口。不仅如此,Linux平台还同步引入了stable-diffusion.cpp的CUDA后端,同时新增了跨厂商Vulkan扩展支持——一句话,兼容的图形处理器范围又扩大了一圈。
对于开发者来说,这次还带了个实用的新家伙:性能基准测试工具lemonade bench。它可以在Llama.cpp、FastFlowLM、vLLM、Ryzen AI等多个推理后端之间做端到端的大语言模型推理性能对比。以前在不同硬件和框架间横向验证,技术门槛不低,现在有了这个工具,工作量直接降下来了。
除了这些硬核更新,新版本还新增了对LMX-Omni模型的原生支持,并集成了Prometheus实时监控接口。运维人员可以通过它可视化追踪服务状态、采集指标,管理起来方便多了。这些改进加在一起,Lemonade正一步步走向通用型、全场景的本地AI引擎。
还有一个值得注意的细节:这次CUDA后端的整合,其实是社区外部开发者贡献的,经过AMD团队审核后正式合并到了主干分支。这体现了项目开放协作的理念,也说明AMD在构建跨厂商AI生态方面,确实迈出了实质性的一步。
作为完全开源的本地AI基础设施项目,Lemonade一直在GitHub上保持更新。目前10.7版本已经开放下载,开发者可以根据自己的硬件配置灵活选用适配后端,平稳地从云端调用切换到本地部署。如果你手头有NVIDIA卡,现在正是试试的好时机。
和平精英如何做到压枪稳-和平精英怎样才能压枪稳
《Off Campus》第二季官宣:这对CP还在,但不再是主角
下载浏览器app下载安装选择推荐
免费影视剧APP推荐
儿子穿新中式现身大会堂 马斯克罕见用中文回应:他正在学习普通话
客单价碾压宝马奥迪!极氪5月交付新车34377辆:连续4个月双增长
Elysium Above 履云录官网在哪下载 最新官方下载安装地址
DOTA2 TI时隔七年重返上海!门票6月10日开抢,国服享受优先购买!
抖音最火沙雕男生网名(精选100个)
HBO 奇幻剧《龙之家族》第三季定档 6 月 22 日,最终预告片曝光喉道海战
阿里发布Qwen3.7-Max大模型,全球第五、国产第一
网络热词聊污是什么意思
SpaceX狂揽AI人才,马斯克亲自面试且不看简历背景
金铲铲之战s17六暗星卡莎阵容玩法构筑指南
免费看电影的软件推荐
名单曝光!库克、马斯克等将随团到访中国 黄仁勋不在其中
帅气继父网名女生可爱英文(精选100个)
短剧《情绪超市》剧情介绍
免费看片软件下载地址推荐
洛克王国世界S2赛季狂欢怪谈介绍
手机号码测吉凶
本站所有软件,都由网友上传,如有侵犯你的版权,请发邮件haolingcc@hotmail.com 联系删除。 版权所有 Copyright@2012-2013 haoling.cc