RTX 5090显卡推理快但显存受限，M5 Max大内存长上下文更优

博主Alex Ziskind近期发布了一组本地人工智能推理性能对比测试结果，涉及两款高端设备：配备RTX 5090移动版显卡（24GB显存）的雷蛇灵刃18笔记本，以及搭载苹果M5 Max芯片、具备128GB统一内存的设备。

在中小规模语言模型（参数量为12B至35B）的常规推理任务中，RTX 5090展现出显著性能优势。以Gemma 4 12B模型为例，其推理速度达到4110 tokens/秒，比M5 Max的1762 tokens/秒高出约133%；在Qwen3.5 27B模型中，领先幅度达109%；即便在参数量达35B的Qwen3.6 35B A3B模型下，RTX 5090仍保持32%的速度优势。

然而，当测试进入超大规模模型或超长上下文场景时，格局出现显著变化。在Qwen3 4B模型搭配26万token上下文长度的测试中，RTX 5090因24GB显存容量的限制，推理速度骤降至25.28 tokens/秒；而M5 Max凭借其大容量统一内存，稳定输出速度达到181.40 tokens/秒，约为RTX 5090的近七倍。

同一硬件平台对上下文长度的敏感性也十分显著：当上下文扩展至68K token时，RTX 5090的处理速度可达160.36 tokens/秒；然而，当上下文进一步增加到262144 token时，由于受到显存物理上的限制，其吞吐量大幅下降84.2%，最终仅维持在21至25 tokens/秒的区间。

综合来看，若应用场景以高频、短文本生成为主，RTX 5090仍是更具效率的选择；但若任务涉及超长文档理解、多轮深度分析等对内存容量高度依赖的场景，则显存规模的重要性或将超越峰值算力本身。