术语slug: dynamic-quantization

动态量化

Dynamic Quantization

按层敏感度分配不同比特宽度的量化策略,在压缩率与精度间取得更优平衡

收录情报动态

共 1 篇 · 第 1/1 页
Hacker News AIT2·开源与评测
58 分
Unsloth 发布 Qwen3.8 系列动态量化 v3.1 更新

Unsloth 为 Qwen3.8-27B 及 2.4T-A95B 等模型发布 Dynamic v3.1 量化版本,提供 UD-Q4_K_XL、IQ1_S 等多档 GGUF 权重,并配套一键安装脚本与 llama.cpp 本地部署命令。该更新降低了超大 MoE 模型在消费级与低比特环境下的本地运行门槛。