前沿大模型直接编辑小模型权重实现数学能力六倍提升
原标题：This is cool as heck!
78AI 研判分
研究人员提出“权重空间编程”概念，利用 GPT-6 Astra 直接修改 Qwen3.5-0.8B 的权重。该方法仅改动 0.016% 的参数，无需梯度训练即可将数学推理能力提升 6 倍、指令遵循能力提升 3 倍，被视为比传统蒸馏更高效的模型优化范式。
报道正文
Yuchen Jin (@Yuchenj_UW) · 2026-11-02 20
这简直太酷了！
想象一下，利用一个大型 LLM 直接编辑较小模型的权重，从而显著提升其能力。
这就像是对神经网络进行基因编辑。比蒸馏技术还要酷！
↳ 引用 @rikiyatakehi (Rikiya Takehi): 我们要求 GPT-6 Astra 编辑 Qwen3.5-0.8B 的权重以提升数学能力。 它仅直接修改了 0.016% 的权重，就修复了 0.8B 模型的推理循环问题，并将数学能力提升至原来的 6 倍，指令遵循能力提升至 3 倍，且无需梯度或训练。
我们将此称为“权重空间编程”（Weight-Space Programming）：前沿 LLM 现在可以原生地读写神经网络权重了！🧵 博客链接：