苹果评估PrismML 1比特量化技术，实现27B大模型

苹果公司正在对人工智能初创企业PrismML研发的模型量化技术展开深入评估。这项技术有望将大型语言模型的内存占用从约54GB压缩至4GB以内，从而让庞大的AI模型能够在移动设备上高效运行。

技术核心：原生1比特量化压缩

PrismML的关键创新在于其原生1比特模型压缩方法。这项技术可将模型体积缩减至全精度版本的约七分之一，内存占用减少逾九成。相比传统量化技术，PrismML的方法不依赖后训练量化，而是从模型训练阶段就采用低比特表示，从而大幅降低存储和计算开销。

性能与精度表现

在精度方面，压缩后的模型仍能维持接近半精度浮点数（FP16）的性能表现。这意味着，尽管模型体积大幅缩小，但智能水平并未显著下降。同时，推理响应速度明显加快，设备功耗也显著降低，这为在手机、平板等低功耗设备上运行大模型提供了可能。

Bonsai 27B模型发布及本地部署

近期，PrismML正式发布Bonsai 27B模型。该模型基于Qwen 3.6 27B架构进行优化微调，在保持原有智能水平约九成的前提下，已实现以下突破：

• 在配备12GB运行内存的iPhone 15及后续机型上本地部署
• 完整运行270亿参数规模的语言模型
• 无需联网，数据完全在设备端处理

这意味着，未来iPhone用户可以直接在手机本地运行与云端大模型几乎同等智能的AI助手，同时享受更快的响应速度和更强的隐私保护。

苹果对PrismML技术的评估，标志着移动端大模型部署进入新阶段。一旦该技术被集成到iOS系统中，用户将能在不牺牲性能的前提下，享受本地大模型带来的便捷与智能。