Qwen3 4B Q4_K_M
Qwen3 4B Q4_K_M 是 Qwen 家族的一款中等规模模型,采用 4 位高压缩量化。拥有 4 亿参数,分布于 36 网络层,具备 33K 的上下文窗口,可在入门级 GPU 上流畅运行。它以 68/100 的质量评分提供可靠性能。
技术规格
| 模型家族 | Qwen |
| 完整名称 | Qwen3 4B Q4_K_M |
| 参数量 | 4 B4,000,000,000 总参数量 |
| 量化格式 | Q4_K_M4-bit |
| 推荐显存 | 3.4GB最低显存 2.4 GB |
| 上下文长度 | 32,768tokens |
| 隐藏维度 | 2560 |
| 网络层数 | 36 |
| 质量评分 | 68/100 |
| 模型体积 | 2.0 GB仅模型权重,不含 KV Cache |
Strengths
- 稳定的质量评分(68/100)— 适合大多数任务
- 低显存需求(3.4 GB)— 可在大多数消费级 GPU 上运行
- 充足的 33K 上下文窗口,满足多数应用需求
- 高压缩量化(Q4_K_M — 4 位)— 显存占用极小
Limitations
- 高压缩量化可能带来轻微质量损失