谷歌被曝要把Gemini“写进”芯片？推理能效最高提升10倍

谷歌正在研发一款面向Gemini模型的新型AI推理芯片，内部代号为Frozen v2。该芯片计划将Gemini模型的部分架构直接固化到硬件中，以减少计算决策和数据搬运，从而提升推理效率。据The Information援引知情人士消息，谷歌工程师预估，按单位功耗输出的Token数量计算，Frozen v2的效率可能达到谷歌最新自研AI芯片的6至10倍。谷歌希望借此缓解AI算力短缺问题，但这款芯片最快可能于2028年部署，目前仍在确定主要功能和固化模型信息的比例。

谷歌发言人在一份声明中表示，研究团队一直在研究和试验新技术，以提高面向用户和客户的系统性能与效率，并非所有研究项目都会投入生产，但这些探索是谷歌全栈技术路线的重要组成部分。

一、将Gemini部分逻辑固化到芯片，减少数据搬运

当前主流AI芯片（如英伟达GPU）强调通用性和可编程能力，需要在运行过程中根据模型需求完成大量计算调度和决策。谷歌自研的TPU虽然针对AI优化，但同样需要兼顾不同模型运行需求。Frozen v2采用不同思路：谷歌计划将Gemini模型部分信息直接固化到芯片中，让硬件提前了解模型运行方式，从而减少执行过程中的决策步骤和芯片内部的数据移动。

这种设计可能带来更快的响应速度，并帮助谷歌降低Gemini模型的运行成本。但模型专用化也意味着更强绑定：如果未来Gemini采用新的底层架构，Frozen v2可能无法直接适配。谷歌因此需要在芯片效率和模型灵活性之间寻找平衡。据知情人士透露，谷歌目前仍在决定Frozen v2中应该固定多少模型信息，以平衡性能提升和未来兼容能力。

二、推理芯片竞赛升温，初代Frozen方案曾被搁置

过去几年，AI基础设施竞争围绕训练展开。英伟达凭借GPU生态占据主导地位。The Information去年12月报道，英伟达通过一笔价值200亿美元的交易，获得了AI推理芯片创企Groq的相关技术授权。包括SambaNova、d-Matrix、OpenAI和微软在内，多家公司都在开发AI推理芯片，目标是以比英伟达GPU更高的效率运行AI模型，缓解算力短缺并降低成本。

加拿大芯片创企Taalas也采取了类似思路，将特定AI模型直接硬编码进芯片，目前已获得超过2亿美元融资，投资方包括Quiet Capital和富达投资。

Frozen v2此前还有一个更激进的版本。由谷歌DeepMind首席科学家杰夫·迪恩主导的初代Frozen方案，曾计划直接将模型权重固化到芯片中。但这种设计会让芯片只能运行某个特定版本的Gemini，一旦模型更新，芯片便可能迅速失去使用价值。由于预期生命周期过短，谷歌最终搁置了初代方案。Frozen v2不再固化完整模型权重，但谷歌仍在评估应该锁定多少模型信息。

三、Frozen v2并非取代TPU，谷歌先将其作为技术试验

知情人士透露，谷歌并没有计划用Frozen v2替代TPU。Frozen项目旨在建立一条区别于TPU的新型自研芯片路线。今年，谷歌发布了第八代TPU，并开始直接向谷歌云客户推销这款芯片，挑战英伟达在AI芯片市场的主导地位。此外，谷歌还与Meta签署了价值数十亿美元的TPU租赁协议，并尝试向其他云服务商销售TPU。

The Information称，谷歌自研TPU已经帮助其降低Gemini模型运行成本，因为谷歌在开发TPU时也考虑了Gemini的需求，只是TPU固化的模型信息远少于Frozen v2。Frozen v2面向Gemini进行更深度的定制，但适用范围也比TPU更窄。

据知情人士透露，谷歌目前没有计划让Frozen v2的产量达到TPU的规模。较小的生产规模可以使谷歌在推出大型产品之前，更晚地引入外部芯片设计和制造合作伙伴。该知情人士还称，谷歌将这一代产品部分视为技术试验，并希望从中积累开发专用AI芯片的经验。

Frozen v2最快要到2028年才能部署，届时Gemini底层架构能否保持稳定，以及6至10倍的预期能效提升能否在实际应用中实现，将成为决定这一项目价值的关键。

本文信息基于原始资料记录时的状态，模型版本、产品功能、价格、企业合作和政策可能继续变化，实际情况以相关主体最新公开信息为准。

来源：The Information