Apple M3 Max

Apple M3 Max 是 Apple 推出的一款 旗舰级 GPU。 拥有高达 36 GB 的大容量显存，可以运行当前几乎所有开源大语言模型 它提供 24 TFLOPS 的 FP32 计算性能 ，拥有 400 GB/s 的内存带宽 可以运行数据库中 20 个模型。 如果你认真对待本地 LLM 部署，这款 GPU 代表了消费级硬件的顶级水准。