微软发布Phi-3 Mini：3.8B参数小到能塞进手机，性能媲美GPT-3.5

▲Phi-3系列基准测试对照表（图源：微软）

此外，微软在学术报告中指出，Phi-3的整体性能可以与Mixtral 8x7B和GPT-3.5等模型相媲美。回顾Phi系列的发展历程——从专为Python编码设计的Phi-1，到增强推理的Phi-1.5，再到27亿参数的Phi-2——它已在语言理解上超越了自身25倍参数规模的模型。Phi-2的下载量已超过200万次，而Phi-3系列将在此基础上继续为Azure AI等平台提供更灵活的选择。 Phi-3模型遵循微软的“负责任AI标准”，覆盖问责制、透明度、公平性、可靠性与安全性、隐私与安全、包容性等维度。在开发、测试和部署过程中，它经历了严格的安全度量、红队测试、敏感用途审查，并遵循安全指南。训练数据的高质量，也延续了之前Phi模型的一向做法。 此外，Phi-3模型还进行了广泛的安全后训练，包括从人类反馈中进行的强化学习（RLHF），以及对数十个伤害类别进行的自动测试和手动红队测试。Phi-3-mini在Azure AI上配备了完整的部署、评估和微调工具链，并通过Ollama平台支持本地笔记本电脑运行。模型针对ONNX Runtime进行了优化，支持Windows DirectML，跨平台覆盖GPU、CPU和移动硬件。同时，它也作为英伟达推理微服务（NVIDIA NIM）提供，具备标准API接口，并针对英伟达GPU进行了专门优化。 微软通过Copilots帮助客户用生成式AI进行业务转型。他们观察到，不同任务对模型规模的需求正日益分化——质量成本曲线上需要不同尺寸的模型。小语言模型（如Phi-3）特别适合三类场景：资源受限的环境（包括设备端和离线推理）、对延迟敏感的实时响应任务，以及成本敏感、任务相对简单的用例。 由于体积小巧，Phi-3可以在计算受限的推理环境中使用，尤其是Phi-3-mini可直接在端侧运行。更小的尺寸也让微调和定制变得更容易、成本更低。较长的上下文窗口使其能处理大量文本内容，如文档、网页、代码等。 一些客户已经开始用Phi-3构建实际解决方案。例如在农业领域，Phi-3为农民提供了更便捷、经济的AI工具，即使在无稳定互联网连接的环境下也能工作。印度领先的商业集团ITC已将Phi-3用于其农业应用Krishi Mitra，帮助农民获取更好的农业解决方案——目前该应用已覆盖超过一百万名农民。 微软设计Phi-3的初衷，就是让它兼容多种设备。与Stability AI的Zephyr、谷歌的Gemini Nano、Anthropic的Claude 3 Haiku等小型模型一样，Phi-3能在端侧运行，无需依赖互联网连接。尽管云端大模型在性能上全面占优，但成本高、运行慢、依赖网络等问题也是不争的事实。Phi-3则让用户在没有网络时也能与虚拟助手互动，在上传数据之外实现内容总结，从某种程度上解决了AI领域的一个痛点。 未来，这类模型有望与智能手机集成，甚至内置于常用家电中，为用户提供个性化建议。AI正变得越来越生活化，而小语言模型的前景值得持续关注。