Yi

Yi 1.5 9B Q8_0

Yi 1.5 9B Q8_0 是 Yi 家族的一款中等规模模型,采用 8 位量化。拥有 9 亿参数,分布于 40 网络层,提供 4K 的上下文窗口,推荐使用高端 GPU 以充分发挥性能。它在同类模型中名列前茅,质量评分 83/100。

技术规格

模型家族Yi
完整名称Yi 1.5 9B Q8_0
参数量9 B9,000,000,000 总参数量
量化格式Q8_08-bit
推荐显存12.6GB最低显存 10.4 GB
上下文长度4,096tokens
隐藏维度4096
网络层数40
质量评分83/100
模型体积9.0 GB仅模型权重,不含 KV Cache

Strengths

  • 高质量评分(83/100)— 适合生产环境使用
  • 高精度量化(Q8_0 — 8 位)— 近乎无损的质量

Limitations

  • 高显存需求(12.6 GB)— 仅限高端 GPU
  • 有限的 4K 上下文 — 不适合长文本处理
  • 高精度意味着更大的显存占用和较慢的推理速度
下载模型在 HuggingFace 查看

FAQ

Yi 1.5 9B Q8_0 — Specs, VRAM Requirements & GPU Recommendations — LLMFit Web