Yi 1.5 9B Q8_0
Yi 1.5 9B Q8_0 是 Yi 家族的一款中等规模模型,采用 8 位量化。拥有 9 亿参数,分布于 40 网络层,提供 4K 的上下文窗口,推荐使用高端 GPU 以充分发挥性能。它在同类模型中名列前茅,质量评分 83/100。
技术规格
| 模型家族 | Yi |
| 完整名称 | Yi 1.5 9B Q8_0 |
| 参数量 | 9 B9,000,000,000 总参数量 |
| 量化格式 | Q8_08-bit |
| 推荐显存 | 12.6GB最低显存 10.4 GB |
| 上下文长度 | 4,096tokens |
| 隐藏维度 | 4096 |
| 网络层数 | 40 |
| 质量评分 | 83/100 |
| 模型体积 | 9.0 GB仅模型权重,不含 KV Cache |
Strengths
- 高质量评分(83/100)— 适合生产环境使用
- 高精度量化(Q8_0 — 8 位)— 近乎无损的质量
Limitations
- 高显存需求(12.6 GB)— 仅限高端 GPU
- 有限的 4K 上下文 — 不适合长文本处理
- 高精度意味着更大的显存占用和较慢的推理速度