Phi

Phi-4 14B Q4_K_M

Phi-4 14B Q4_K_M 是 Phi 家族的一款中大规格模型,采用 4 位高压缩量化。拥有 14 亿参数,分布于 40 网络层,提供 16K 的上下文窗口,推荐使用高端 GPU 以充分发挥性能。它在同类模型中名列前茅,质量评分 83/100。

技术规格

模型家族Phi
完整名称Phi-4 14B Q4_K_M
参数量14 B14,000,000,000 总参数量
量化格式Q4_K_M4-bit
推荐显存11.9GB最低显存 8.4 GB
上下文长度16,384tokens
隐藏维度5120
网络层数40
质量评分83/100
模型体积7.0 GB仅模型权重,不含 KV Cache

Strengths

  • 高质量评分(83/100)— 适合生产环境使用
  • 合理的显存需求(11.9 GB)
  • 高压缩量化(Q4_K_M — 4 位)— 显存占用极小

Limitations

  • 有限的 16K 上下文 — 不适合长文本处理
  • 高压缩量化可能带来轻微质量损失
下载模型在 HuggingFace 查看

FAQ

Phi-4 14B Q4_K_M — Specs, VRAM Requirements & GPU Recommendations — LLMFit Web